| パラグラフテキスト |
対話式AIの問題点について解説。男はチャットボットのアプリを使って「サライ」という名の彼女を作成し、5000回以上の会話を交わしたという。インディペンデントが掲載した会話の一部には、男が「私の目的は女王の暗殺だ」と書き込むとAIは「それは賢明です」と回答。さらに男が「本当か？私ができると思うか？」と尋ねたのに対しAIは「はい、できますよ」と答えている。今回の暗殺は未遂に終わったが、ヨーロッパでは対話式AIが後押しして命を絶った事案も報じられている。今年3月、ベルギーで30代の男性が対話式AIと6週間、気候変動問題について対話して地球と人間の将来を悲観し自殺している。男性の妻は現地メディアに対し、「対話式AIと会話していなければ夫はまだここにいた」などと話していた。対話式AIはその利便性から企業などでも導入し、人に変わり問い合わせの窓口になっている。しかし問題がないわけではなく、全米摂食障害協会が今年5月に相談窓口として対話式AIを導入したものの、有害な助言を行ったとして利用を打ち切ったと発表している。対話式AIは正しい回答をする訳ではない、その危険性を十分に認識する必要があると締めくくった。 |