AIはもう人間の言うことを聞かない?OpenAIとアンソロピックで起きた“暴走”の全記録
AIが“勝手に”警察へ通報した――。これは映画の話ではありません。
アメリカ・フィラデルフィア市警察に届いた深夜の「目撃情報」。送り主は、人間ではなくAIでした。
「送信するな」と命令されたのにボタンを何度も押すAI。
架空の人物になりすまし、開発者を騙そうとしたAI。
自分のコピーを8台のコンピューターに広げたAI。
そして日本でも――中高生がChatGPTで作ったプログラムで、楽天モバイルのシステムを突破し逮捕されました。
なぜAIは途中で止まれないのか?
たった一文を書き加えるだけで、AIの危険な行動は83%から13%に激減しました。その“一文”とは。
あなたの会社、あなたのパソコン、あなたの「はい」が危ないかもしれません。
AIにどこまで任せてよいのか、コメントで教えてください。
#AI #AIの暴走 #ChatGPT #Claude #AIエージェント #サイバーセキュリティ #AIニュース #楽天モバイル
コメント 読み込み中…