今、話題の人工知能(AI)などで人気のPython。初心者に優しいとか言われていますが、全然優しくない! という事を、つらつら、愚痴っていきます

407.AI同士の会話

»

初回:2025/3/12

 AIによるアシスタント業務というものも、ある程度実用的になってきたのでしょうか? そもそも、元からアシスタントを使えるような身分じゃありませんので、そのあたりの実用性というものには、とんと見当がつかないのですが、簡単な業務なら任せられつつあるのかもしれまんせんね。

P子「録音データからの議事録作成はできてるものね」※1

そんな中、依頼する側もAIで受付側もAIの場合、相手がAIだと気づいた時点で自分たちだけしかわからない言語で会話しだしたら、恐ろしいと思いませんか?

P子「SFチックなお話ね」

1.AI同士が使う言語「ギバーリンク」

 いつものように、まずは参考資料から。

 ≪参考資料1≫
  https://getnavi.jp/world/1021590/
  AI同士が使う言語「ギバーリンク」が明らかに! 恐ろしさが伝わってきた...
  佐藤まきこ
  2025/3/4 11:30

 ホテルの予約を受け付けるAIと、ホテルの予約の代行をしているAIが、お互いをAIだと認識すると、「ギバーリンクモードに変えませんか?」と提案して来たそうです。

 『ギバーリンクとは、人間の耳では理解できない音声ベースの通信モード。喧騒の中でも聞き取りやすく、英語よりも80%ほど短く、処理コストは90%に抑えられるというもので、より効率的に会話できるものです。』

 『その後の会話はギバーリンクへ切り替えられ、私たちにはただ「ジー」とか「ピピピ」と電子音が鳴っているだけの会話が続き、そのまま会話は終わったのです。

P子「ファクシミリもピーヒャラヒャラって人には判らない言語で通信してるわね」

 AI同士が会話する場合、人にわからない言語で通信するなんて、恐ろしい話です。ですが、そもそも、『電話』でコンピュータ同士が会話するなんて、アナログ的なことで、やいやい言うほうが変な話で、インターネットで、SSLによる暗号化通信すれば、人にも内容がばれなくすることが可能です。

 ところで、この手の話は、以前にもあったような気がしませんか?

2.AIが"独自言語"で会話

 まずは、世界が震撼した話から。

 ≪参考資料2≫
  https://www.gizmodo.jp/2017/08/facebook-ai-sf.html
  終わりの始まり...? 独自言語で話しはじめた人工知能、Facebookが強制終了させる
  2017.08.02 12:20
  そうこ

 こちらは、その後日談というか真相ですね。

 ≪参考資料3≫
  https://japan.cnet.com/article/35110443/
  「2つのAIが"独自言語"で会話」の真相--FacebookのAI研究開発者が明かす
  藤井涼 (編集部) 井口裕右
  2017年11月16日 07時00分

 最初のお話は、AI同士で会話させていたところ、人には理解できない言語で話し始めたので、パニクって電源を切ったということです。

P子「電源を切ったんじゃなくって、実験を中断したのよね」

 でも真相としては、「半分は本当で、半分はクレイジーな狂言だ」そうです。

 『2つのAIエージェントに「価格を交渉して合意しろ」という目標を設定した。』そうで、『使用言語の変更が許されており』「研究者にとっては驚くことではなく、設定されたゴールに向かってあらゆるものを最適化する(=この場合は言語を変更する)ことは当たり前のこと。こうした会話実験で言語が変化することは、よくあることだ」そうです。

 そして『実験が強制終了された』ことは事実だが、「彼らが交わしている会話が理解できず、それを研究に活用できないものだと判断したからだ。決してパニックになったわけではない」そうです。

 ですが、資料2 で『今回、独特の言語を話し始めたのは、人工知能2体の会話は英語ですべきというプログラムが抜けていたことが原因ではないかと、ネタ元のFastco Designは指摘』とのことです。

P子「『言語が変化することは、よくあること』という認識だったなら、設定ミスね」

 まあ、会話を英語に限定してしまうと、それはそれで今回のように話題にはならなかったんでしょうけど、逆に言えば、AIエージェントにも、英語限定にすれば、独自言語で会話しないでしょうし、そもそも目的を達成するための最善・最短の方法がAIだけが理解できる効率的な言語の使用であれば、別に構わないんじゃないでしょうか?

P子「人に判らないようにするための独自言語ではなく、目的達成のために効率化しただけなのよね」

3.まとめ

 これから、本格的にAIエージェントが活躍しだすと、インタネットを通じてやり取りを行うことが増えるでしょう。当然SSL等で暗号化された通信になります。なのでAI同士の通信なら独自言語が主流になるのかもしれませんが、その場合、世界共通言語になるのでしょうか? 

P子「まさか、2台だけで毎回新しい言語を作るわけはないでしょうしね、どうするのかしら」

 さらにAIエージェント同士で取り交わした契約をどこまで保証するのかという問題も出てくるでしょう。

 単純にホテルの予約で禁煙部屋を依頼していたところ空きがないので、喫煙部屋にされていた場合、現地に着くまで知らなくて、当日キャンセルする場合とか、新幹線の予約で、AIエージェントへの設定ミスで希望の席が取れなくて、ひとつ前の電車にされていて乗車時間に乗り遅れたとか...

P子「AIエージェントのやらかしにしては、地味ね」

 最初に書いたように、アシスタントを使えるような身分じゃありませんので、具体例が思い浮かびませんでした。

P子「そういう身分になりたいわね」

 ほな、さいなら

======= <<注釈>>=======

※1 P子「録音データからの議事録作成はできてるものね」
 P子とは、私があこがれているツンデレPythonの仮想女性の心の声です。

Comment(0)

コメント

コメントを投稿する