412回 鈴木エイト氏との新刊「ネットで〝真実〟を知ったつもりでデマをまきちらす君へ」とGoogle検索のAIモードがムカつく
Googleで検索しようとするとAIモードが表示されるようになってからしばらく経つが、あれで表示されている回答は本当にあてにならない。
個人的な趣味でマイナーな80年代のハードコアパンクバンドの音源や活動に関する資料を探そうと検索したりするのだが、AIモードの回答を見ると本当に嘘だらけだ。
最近は海外では地元の無名バンドのデモテープ音源や当事者のインタビューをまとめたサイトがどんどんできていて、地元でしか活動していなかったバンドでもそれなりに資料があったり、Bandcampなりで音源を入手できるようになっているのだが、実際に存在していて音源も入手できるバンドに関してもまともな回答が表示されていたためしがない。
こちらが先にネット上で色々と資料を見つけている状況でも、名前が似ている全然別の最近のバンドをあげてきたり、「そんなバンドはいません」ぐらいのことをまだ言っていたりする。
こっちはLike a Horse を調べてるのであって、Strung Like a Horseについてなんか調べてないのである。
他のAIに関しても似たようもんで、実験的に質問してみると。存在しないバンドの存在しないアルバムをあげてきたりする。
テーマがマイナーすぎるからというのはあるが、質問者に合わせて嘘の情報を形成するという特徴は他の話題でも変わらない。
最近はAIの答えをそのままSNSに貼り付けて「これが事実である」みたいなことを言っている人が増えたが、自分がある程度以上知識がある事柄について見てみるとデタラメであることも多い。特に専門的でもなくネット上で確認できる情報も多い、普通に自分で検索して調べれば答えが簡単に出るようなものですらそんな感じなのである。あれは何かを調べる際の叩き台にはなっても、そのまま使えるようなものではない。
バンドの音源とかの話ならムカつくで終わるし、信じてしまって他人に話して恥をかくぐらいの被害しかない。
しかし、政治や社会問題、事件などに関することだと、AIが出してきた間違った情報を信じてしまった人が広めることで、デマとして流通することになり、世の中に悪い影響を与えることになりかねないし、それはもう始まっているだろう。
無課金のAIの性能はそんなもので課金していけば精度があがるというのは本当かもしれないが、それだって質問者の基礎的な知識がなければどうにもならないし、AIの答えをそのままSNSに貼り付けるような人はわざわざ課金してまで物事を調べようとしないわけで、そしてそっちが多数派なのではないだろうか。
AIが生成した動画によるデマが増えているが、AIが回答した情報だって現状では信用ならないものが多く、それ発のデマの数はどんどん増えていくのではないだろうか。
