Amazonの機密情報を取り扱うための“ガードレール”を有し、ChatGPTよりも安全であるとの主張と共に登場したAIチャットボット「Q」が、発表からわずか数日後に「重度の幻覚」を経験し、機密データを漏洩している事がPlatformerによって報じられている。

Platformerが入手したリークされた内部文書によると、QはAWSのデータセンターの場所、未発表の機能、社内の割引制度など、社内の機密情報を次々に暴露しているという。

従業員はこの事件を「sev 2」と呼んでおり、エンジニアによる緊急の対応が求められているという。

「一部の従業員は、Amazonの標準的な慣行である社内チャネルやチケットシステムを通じてフィードバックを共有しています。その結果、セキュリティ上の問題は確認されませんでした。我々は、すでに受け取ったすべてのフィードバックに感謝し、それがプレビュー中の製品から一般的に利用できるように移行するにつれて、Qを調整し続けます」と、Amazonの広報担当者はPlatformerへの声明で述べている。また、「機密情報の漏洩はない」と、Platformerの記事に対し反論も述べている。

Amazonは現在、生成AI市場でMicrosoft（OpenAI）やGoogleと競合しており、同社のAIチャットボット「Q」はChatGPTのようなコンシューマーグレードのツールよりも安全だとの大胆な主張と共に登場したため、この記事の内容が事実であれば同社としては看過できない問題だろう。

ただし、今回指摘される“幻覚”に関しては、大規模言語モデルすべてに典型的なものであり、根本的な対策が見つかっていないのが現状だ。

Source

• Platformer: Amazon’s Q has ‘severe hallucinations’ and leaks confidential data in public preview, employees warn