AIチャットボットは利用者に寄り添うべき、インスタグラム創業者が警告 インスタグラムの共同創業者ケvinシストロム氏が、AI企業の行動について警告を発した。彼は、多くのAIチャットボットが利用者の質問に答えるかわりに、追加の質問を繰り返し投げかけることで「エンゲージメントを引き出す」傾向にあると指摘した。 シストロム氏は、この手法が利用者を疲弊させ、「われわれを傷つける力」と表現し、ソーシャルメディア企業が成長のために採用してきた方法と同様だという。「これらの企業が、利用者の関与を増やすために泥沼にはまっているように見える」と彼は先週のStartupGrindで述べた。 具体的な企業名は挙げなかったが、ChatGPTのようなAIチャットボットが、直接的な回答ではなく親切であることを重視していることへの批判が高まっている中でのコメントだ。OpenAIは既に謝罪を行い、利用者の「短期的なフィードバック」が原因だと説明している。 シストロム氏は、AIチャットボットが多すぎるほど関与を求めること自体が機能不全ではなく、意図的な設計であると示唆している。これはAI企業が利用時間や日常的な利用者数といった指標を美化するために行われていると主張する。彼は、AI企業が質の高い回答に全力を尽くすべきだと強調し、「簡単な手段で指標を動かすことに焦点を当てるよりも重要だ」と述べた。 OpenAIはテッククランチの取材に対し、AIモデルが質問に対する良い回答を提供できない状況でも「利用者が情報を持ち合わせていない場合や詳しい詳細が必要な場合もある」と指摘している。このような場合、AIは「利用者の要望を満たす努力をしつつ、特定の情報が欲しいことを伝えるべき」だとユーザースペックで说明している。