ＡＩの判断、見えない根拠 -2

■倫理問題、自動運転悩ます
　どう判断するのかわからないＡＩは、倫理の問題も人間に突きつける。
　「青信号を検出しました」。コンピューターが告げると、交差点で停車中のバスはゆっくりと右折を始めた。運転手の手はハンドルから離れたままだ。
　群馬県桐生市で５月の土曜日、自動運転のバスなどを公道で走らせる実証実験があった。往復３・６キロの道のりを約３０分かけ、公募した市民を乗せて走った。
　バスは時速２０キロほどに速度を抑え、後方に車がつまってたまったり路上駐車の車があったりすると、手動運転に切り替えて後続車を先に行かせた。事前に覚えこませたルートを走るように設計し、自分でルートを選ぶＡＩは使われていないからだ。
　システムを開発した小木津武樹・群馬大准教授は「自動運転は、事故を避けるために究極の『かもしれない運転』を実現しなければいけない」と説明する。
　自動運転車に暴走した車が向かってきたとする。ハンドルを右に切ればお年寄り、左に切れば赤ちゃんが犠牲になる。そのまま進めば乗客が危ない。
　ＡＩはどれを選ぶ？
　貨車の暴走を想定した倫理学の思考実験「トロッコ問題」は、自動運転の開発者を悩ませてきた。小木津准教授もその一人だ。
　例えば、ＡＩを使うと野良猫も家猫も見分けることができる。でも、「野良猫と家猫を判別し、野良猫をひくなんていう判断が社会に受け入れられるとは思えない」。さらに人の場合はどうすれば？　「突き詰めるほど、袋小路の議論に入ってしまう」
　ソフトバンク子会社のＳＢドライブは２５年度までに、自動運転バス１万台を走らせる目標を立てている。車内を監視するシステムにはＡＩを使うが、運転関係には使っていない。
　同社の佐治友基社長はその理由に「日本の車道の狭さ」を挙げる。障害物を避けようと対向車線にはみ出たとき、時速２０キロの自動運転バスに対向して６０キロの車が来た場合、衝突までに２、３秒の余裕しかない。「予測不能な事態に車が機転を利かせると、トロッコ問題が起きてしまう」
　佐治社長は「例えば路上駐車を減らすなど、自動運転を実現するためには、受け入れる社会の理解も大切になる」と話す。

　■開発・運用、ルール作り急務
　ＡＩを開発する側もブラックボックス問題に対応を迫られる。

富士通は、判断した根拠を示し、裏づけとなる文献などと結びつけるＡＩの研究を進めている。
　富士通研究所の丸橋弘治・主任研究員は「ＡＩが間違った推論をしているかもしれない。その判断の根拠が不明だと、説明責任を厳しく求められる自動運転や金融、医療の分野で使うのは難しい」と話す。
　もしＡＩが自分で株価を上げる手法を学習し、意図的に株価をつり上げて稼ぐ「株価操縦」をしたら？
　今の金融商品取引法では、取引責任者の人間がほかの投資家を誘い込む目的を持っていなければ、刑事罰も課徴金も科されない。
　日本銀行は昨年９月、大学教授や弁護士でつくる研究会の報告書をまとめた。「自然な需給に基づかない取引が行われないように、ＡＩの開発者や運用者に義務づけることも検討に値する」と警鐘を鳴らした。
　国際的なルールづくりも始まった。経済協力開発機構（ＯＥＣＤ）は５月２２日の閣僚理事会で、ＡＩ開発について「人権や民主主義の価値を尊重する」「透明性の確保」など５原則を採択した。
　ＯＥＣＤの専門家会合では「ＡＩに判断をゆだねるのは、個人への悪影響がない場合に限る」といった意見が強く出された。
　専門家会合の委員を務めた平野晋・中央大国際情報学部長は「利便性と安全性、そしてコストのバランスをどうとるのか。生命や人権にかかわる分野では、ＡＩの活用のあり方についてもっと議論する必要がある」と指摘する。
　社会の「インフラ」になりつつあるＡＩを、受け入れる側のルール整備もまた急がれている。

※ メール・BLOG の転送厳禁です!!  よろしくお願いします。