HyperAI超神经

Scale AI: 大手クライアントとのAIプロジェクトに重大なセキュリティ穴メタが143億ドルを投資したScale AIの共同創業者アレクサンダー・ワンが、顧客データのセキュリティに懸念を示す中、Business Insider（BI）が同社の公のGoogle Docsから漏洩したファイルを入手し、セキュリティの脆弱性が明らかになった。Scale AIは、Google、メタ、xAIなどの大手テック企業のAIプロジェクトを管理するために公のGoogle Docsを使用している。しかし、これらのドキュメントには「機密」と表記された情報が数多く含まれ、リンクを知る者なら誰でも閲覧可能という状況だ。セキュリティ穴の経緯 BIが確認したGoogle Docsには、Scale AIがGoogleのBard（当時はストラグルしていたチャットボット）を改善するためのChatGPTの使用方法や、xAIの「Project Xylophone」で具体的に行われていた会話スキル改善のトレーニングの詳細が掲載されていた。これらのドキュメントは、複雑な質問への対応能力など、AIモデルの問題点や改善策を細かく記していた。また、メタのAIプロジェクトでは、感情的で会話的なチャットボットの訓練方法やセンシティブなトピックの扱い方についてのマニュアルが公開されており、メタが音声プロンプトの良し悪しを評価していたこともわかった。Scale AIは最低でも21件の生成AIプロジェクトをメタのために管理していた。コントラクター情報の漏洩公のGoogle Docsにはコントラクターの個人情報も多数掲載されている。名前、 Gmailアドレス、作業パフォーマンス、支払いの詳細などが記載されたスプレッドシートがアクセス可能で、中には「チーティング」（不正行為）の疑いのある労働者がリストされているものもあった。一部の文書には、誤って禁止された約1,000人のコントラクターの名前も含まれていた。 5人の現在および元Scale AIコントラクターに話を聞けば、公のGoogle Docsの使用が一般的だったことが分かった。彼らは、個人情報の保護が不十分だと感じており、セキュリティ上のリスクがあると指摘した。コントラクターは、作業の効率化のためにこのような方法が使用されている一方で、個々のアクセス権限を管理するとプロセスが遅くなるため、公のGoogle Docsの使用が続けられてきたと説明している。セキュリティへの懸念コロンビア大学のサイバーセキュリティ講師ジョセフ・スタインバーグ氏は、这样的な内部分類システムを公のリンクで管理することは重大なセキュリティリスクを伴うと述べた。「最善のケースでも、これはソーシャルエンジニアリングの一環になる。つまり、偽の社員になりすましてアクセス情報を脅迫することだ」と説明した。多くのコントラクター情報が容易に取得できる状況下では、こうした攻撃の機会が増えてしまう。トレース3の地域ディレクター、ステファニー・キュルツ氏も同意し、誰でも編集可能な文書は悪意のある者が悪用する可能性があると警告した。企業がセキュリティを強化することで成長速度が低下する可能性はあるが、それでもアクセス管理は基本的であり、必要な手続きだと両氏は述べている。 Scale AIの対応 Scale AIの広報担当者は、社内調査を行い、公開ドキュメントの共有を停止したと答えた。「顾客の信頼を確保することは、引き続き最優先事項であり、堅牢な技術的およびポリシー上的な保護策を強化するために常に努力しています」と声明を発表している。メタはこの件に関してコメントを控えた。一方、GoogleとxAIは問い合わせに対して回答しなかった。ビッグテック企業はScale AIのセキュリティ措置に不安を感じており、一時的に作業を中断する事態となった。Scale AIは、昨週のブログ記事で自社が中立的かつ独立したパートナーであることを再び強調し、厳格なセキュリティ基準を維持すると約束した。業界関係者のコメント Joseph Steinberg (コロンビア大学サイバーセキュリティ講師): 「最も基本的なセキュリティ管理も欠如しており、重大なリスクを孕んでいます。」 Stephanie Kurtz (Trace3 リージョナルディレクター): 「公開リンクで情報が管理されている限り、悪用される危険性は避けられません。」 Scale AIの会社概要: Scale AIは、AIのトレーニングデータセットの作成や注釈付けに特化するスタートアップ。世界最大級のAIプロジェクトの一つである、メタとの提携契約を締結し、成長を加速させている。しかし、今回のセキュリティ問題は、その基盤に大きな亀裂を生む可能性がある。

Related Links