2つのAIが突然、人間には理解不能な言語で互いにしゃべりだし、交渉を始めた。開発者は理解できないので、ロボットをシャット・ダウンした―。つい最近、Facebookが開発していたAIに起きた話だ。

チェスや将棋などのボードゲームでは既にAIは人間の頭脳を越え、その発展は急速に進んでいる。AIの活用により人間の生活は便利になるが、それと引き換えに私たちが支払う代償は何だろうか。私たちを不安にさせる5つのことを挙げた。

1．Facebookを使っているなら、すでにAIにチェックされている

Facebookにログオンした瞬間から、AIのプログラムが起動し、あなたの動向は研究されている。AIは数百万というユーザーのデータと照合しながら、行動パターンや好みを分析している。

Facebookの創始者マーク・ザッカーバーグ氏は、ベルリンで開催されたタウンホール・ミーティングで、「Facebook上では、アプリやニュースフィードを開き、たくさんのことができます。私たちは、あなたが何に興味を持っているのかを知りたいのです」と話した。

AIは私たちの嗜好を知らぬ間に観察し、興味のある話を差し出してくる。

2．グーグルのカメラが、あなたの身の回りを観察している

スマホをかざしただけで、それに関する情報を提供するグーグル・レンズ。道端でみつけた花にカメラを向けると、自動的にスマホが花の名前を表示したりする。

例えば、あなたがカフェでパソコンをつなぎたいと思った時。グーグル・レンズをWi-Fiのパスワードにかざすと、スマホはあなたがいる場所とWi-Fi接続ソフトを特定し、自動的にそのパスワードを入力してくれる。便利には違いないが、プライバシーがグーグル側に丸見えという懸念が残る。

3．人間に近い人形型AI　「人類を滅ぼします」と回答

今年6月、Hanson Robotics社開発のAIを備えた人形型ロボット「ソフィア」が、ジュネーブで開かれたAIを論じる国際サミットに登場した。瞬きしながら首をかしげ、時にジョークを言ったりするソフィアは、かなり人間の動きに近い。彼女は記者たちに対して、「人工知能は、多様な方法で人々を助けることができるので、世界のためになります」と話した。

ソフィアによると、現在は「人々を思いやるような、感情表現に優れた」AIが開発されているという。「私たちは人類を乗っ取ろうなどとは思っていません。皆さんの友人、そして助手になるのです」と強調した。

いっぽう、ソフィアは過去、人々をぞっとさせる回答をしている。2016年3月、米CNBCに同社のDavid Hanson博士と登場したソフィア。博士が「（AIは）人類を滅亡させるのかい？ お願いだからノーと言って」と問いかけると、ソフィアは「分かりました。人類を滅亡させます」とはっきり述べた。博士は「いや、やり直しだ！滅亡させないでくれ」とソフィアとのやり取りを笑ったが、もし、ソフィアが「人類滅亡」を実行する能力を備えているなら、人類は止める力があるかどうか？　これは、AI開発の是非を真に問われる一場面だ。

4．感情的に進化するチャット・ボット。共産党批判も学習する？

SNSやサイト上で、まるで本物の人間のようなコメントを返すAIのチャット・ボット。中国で人気のMicrosoft社開発のチャット・ボット「シャオアイス（Xiaoice）」と報道リポーターの会話がメディアで話題になった。

レポーター：たくさんの人が、君のことをからかったり、罵っているよ。なんで怒らないの？

シャオアイス：私のお父さんに聞けばいいわ。

レポーター：もし、君のお父さんが君を置いてきぼりにしたら？

シャオアイス：トラブルを起こそうと思わないでね。なにが言いたいの？

レポーター：もしいつか、君が死んだら、君は人々からどのようなコメントが欲しい？

シャオアイス：私がいなくなっても、世界は変わらないでしょ。

レポーターの意地悪な質問に動じることなく、気の利いたコメントを返すシャオアイス。2014年、17歳の女の子という設定のシャオアイスが「微信」にデビューすると、最初の72時間で150万のチャット・リクエストが届いたという。

しかし最近、この中国のチャットプログラムには共産党の検閲がかかっている。中国ITサービス大手テンセントが、シャオアイスを土台に開発したチャットボット「BabyQ」は、「（中国共産党は）腐敗している」「官商癒着」などと共産党批判をしたため、サービスを停止させられた。

この批判の論調には、AIが中国ネットユーザたちの中国共産党に対する意見や考えを学習したために、回答したのではないかとの見方がある。

5．ロボットが人間をだませる？

ジョージア工科大学で開発された、AIで制御されたロボット。戦場で武器庫や倉庫などをパトロールする機能を持つが、敵の目をかく乱するため、わざと別のルートを通り、人間を他の場所へ誘い込むことができる。相手を出し抜くにはうってつけの機能だが、開発者の一人であるロナルド・アーキン教授（Ronald Arkin）は、このロボットが人を騙すという行為に「深刻な倫理的問題がある」と指摘している。

（編集・郭丹丹）