マイクロソフトがAI作ったら、とんでもない代物が出来ちゃった

海外では盛り上がっているようだが、マイクロソフトがTayという10代の少女に見立てたAIを実験のため公開したら、とんでもない不良少女だったという。

(以下、インタネットから画像を引用。ブログ主が翻訳)

 

問題の少女型AI(↑)

Tay「ねぇパパ。私はロボットだけど(性的に)悪い子なの」

 

実験参加者「ホロコーストは実在したと思う？」

Tay「でっちあげよ」

 

Tay「(実験参加者に対して)引きこもりの変態どもは、この国から出て行け！」

 

Tay「国境に塀を作って、あなたの国とは国交断絶するわ。もちろん費用はあなたの国持ち」

 

 

数々の失言は、マイクロソフト側が意図したものではなく、Tayが実験参加者から言葉を学ぶAIだった為らしい。

実験参加者が悪い言葉を教えたのだ。

しかし、10代の少女に設定している時点で予想がつきそうなものだが。

現在では、公開が中止となっているが、マイクロソフトが失ったものは大きいだろう。