「[T]AI エージェントに関して最も難しいのは、エージェントが安全で信頼性が高く、予測可能であることを確認することです」と Anthropic の最高経営責任者、ダリオ・アモデイ氏は昨年 FT に語った。 エージェントのような AI ソフトウェアは、「人々が実際にシステムを信頼できるところ」に到達する必要があると同氏は付け加えた。 「その点に達したら、これらのシステムをリリースします。」 ある現従業員は、チャイルドセーフティフィルターのオーバーレイや、スマートライトやリングドアベルなどのAlexaとのカスタム統合のテストなど、さらなる手順がまだ必要だと述べた。 「問題は信頼性です。ほぼ 100% の時間稼働させることが重要です」とその従業員は付け加えました。 「それが、私たち、あるいは Apple や Google がゆっくりと段階的に出荷しているのがわかる理由です。」 Alexa向けの「スキル」や機能を開発している多数のサードパーティは、新しい生成AI対応デバイスがいつ公開されるのか、またその新しい機能をどのように作成するのかが不明だと述べた。 […]
