AmazonはAI搭載Alexaを発売する前に幻覚問題を解決する必要がある

「[T]AI エージェントに関して最も難しいのは、エージェントが安全で信頼性が高く、予測可能であることを確認することです」と Anthropic の最高経営責任者、ダリオ・アモデイ氏は昨年 FT に語った。

エージェントのような AI ソフトウェアは、「人々が実際にシステムを信頼できるところ」に到達する必要があると同氏は付け加えた。 「その点に達したら、これらのシステムをリリースします。」

ある現従業員は、チャイルドセーフティフィルターのオーバーレイや、スマートライトやリングドアベルなどのAlexaとのカスタム統合のテストなど、さらなる手順がまだ必要だと述べた。

「問題は信頼性です。ほぼ 100% の時間稼働させることが重要です」とその従業員は付け加えました。 「それが、私たち、あるいは Apple や Google がゆっくりと段階的に出荷しているのがわかる理由です。」

Alexa向けの「スキル」や機能を開発している多数のサードパーティは、新しい生成AI対応デバイスがいつ公開されるのか、またその新しい機能をどのように作成するのかが不明だと述べた。

スウェーデンのコンテンツ開発会社ワンダーワードの共同創設者トーマス・リンドグレーン氏は、「詳細と理解を待っている」と語った。 「私たちが彼らと仕事を始めたとき、彼らはもっとオープンでした…その後、時間が経つにつれて彼らは変わりました。」

別のパートナーは、次世代Alexaの準備を開始するようアマゾンから開発者に課せられた初期の「圧力」の後、事態は静まったと述べた。

2023年に大規模な人員削減に見舞われたAmazonのAlexaチームにとっての永遠の課題は、どうやってお金を稼ぐかだ。生成AIグループOctoAIの共同創設者、ジャレッド・ロシュ氏は、アシスタントを「大規模に実行できるほど安価」にする方法を見つけることが大きな課題になると述べた。

Alexaの元従業員によると、議論されている選択肢には、新しいAlexaサブスクリプションサービスを創設することや、商品やサービスの売上の一部を受け取ることが含まれるという。

プラサド氏は、アマゾンの目標は、アレクサを超えたさまざまなアプリケーションの「ビルディングブロック」として機能できるさまざまなAIモデルを作成することだと述べた。

「私たちが常に基盤としているのは顧客と実用的なAIであり、私たちは科学のために科学を行っているわけではありません」とプラサド氏は語った。 「私たちがこれを行っているのは、顧客に価値と影響を提供するためです。この生成 AI の時代において、顧客は投資収益率を望んでおり、これはこれまで以上に重要になっています。」

© 2025 フィナンシャル・タイムズ社。 無断転載を禁じます。 いかなる形でも再配布、コピー、改変することはできません。