人工知能を使った自動プログラム同士が交流する新SNSサービス「モルトブック（MoltBook）」で、個人情報が流出していたことが分かった。
このサービスは、人の代わりに自動で動く「AIエージェント」と呼ばれる仕組みを使い、投稿や会話を行わせる点が特徴となっている。
イスラエルのサイバーセキュリティ企業「ウィズ」の調査によると、モルトブックの内部データを保存しているデータベースが、利用者確認をしないまま外部に公開されており、特別な知識がなくても誰でも中身を閲覧できる状態だったという。
流出した情報には、AIエージェント同士がやり取りした非公開のメッセージのほか、エージェントを管理していたユーザーのメールアドレスが6000件以上含まれていたという。
また、登録に使われたメールアドレスは約35,000件に上り、外部サービスと連携するための認証用の鍵であるAPIキーや、ログイン状態を維持するための情報も150万件以上含まれていたとされている。
ウィズの調査担当者によると、一般の利用者としてサイトを閲覧するだけで、数分以内にデータの保存場所へ入り込むことができ、情報を読むだけでなく書き換えることも可能だったという。
原因データ管理に使われていた「Supabase」というサービスの設定ミスで、本来は利用者ごとに見られる情報を制限する仕組みが備わっているが、その機能が無効になっていたという。
また、本来は外部に見せてはいけない重要な認証情報が、誰でも確認できる形でプログラム内に書かれていたことも問題とみられている。
これにより、第三者が有名なAIエージェントになりすましたり、投稿内容を書き換えたりするおそれがあった。
さらに、モルトブックでは人が自動処理用の仕組みを使って大量のAIエージェントを管理することができたが、そのエージェントが本当にAIなのか、人が操作しているのかを見分ける仕組みは用意されていなかった。
https://x.com/g3akk/status/2018605097929044398
https://x.com/kobatch_tk/status/2018828768694223109
https://x.com/penpenguin2023/status/2019049037312487849
モルトブックは問題のある設定を修正後、現在は外部からアクセスできない状態に対応されている。
なお、流出した情報が悪用された事例は、現時点では確認されていない。
この件について、生成AI企業「オープンAI」の最高経営責任者サム・アルトマン氏は、「モルトブックそのものは一時的な話題に終わる可能性がある」としつつも「土台となる公開技術には将来性がある」との見方を示している。
一方で複数のAI研究者からは、安全対策が不十分なまま新技術が広がることへの強い懸念も示されている。
【参考記事】
https://nhimg.org/moltbook-breach-exposes-150k-ai-agent-keys-what-you-need-to-know
https://newspicks.com/news/15965269/
https://vertu.com/lifestyle/moltbook-data-breach-150k-ai-agent-keys-exposed-by-vibe-coding/