人類のCEOは、AIが「作業の終わり」ボタンを与えて懐疑論を呼び起こすという考えをHuys

高度なAIモデルがいつか「ボタン」を押して不快になる可能性のあるタスクを終了することができることを示唆した後、人類のCEOであるDario Amodeiは月曜日にいくつかの眉を上げました。 Amodeiは、外交評議会でのインタビューで挑発的な発言をし、「狂ったように聞こえる」という考えを認めました。

「それは – それは私が完全に怒っているように聞こえるもののもう一つのトピックです」とアモデイはインタビュー中に語った。 「これらのシステムを構築し、人間や人々のようなあらゆる種類のことをしているのか、そして彼らはアヒルのように踏み、アヒルのように歩くなら、同じ認知能力を持っているように見えるのか、それはアヒルのように多くの認知能力を持っているように見えると思います。」

コメントAmodeiは、科学者のデータカイルフィッシュを採用することについてのカルモのドミンギンから聴衆の問題になりました。魚は現在、AIモデルが知覚を持っているのか、さもなければ道徳的な考慮に値するかどうかの非常に疑わしいトピックを調査しています。

「だから、展開の始まりについて考えていることは、モデルをセットアップに入れて、モデルに「この仕事を止めた」というモデルにモデルを押すことができると書かれたボタンを与えることです。アモデイは言った。 「これは、モデルの仮説が経験があるかどうかを言う優先的なフレームワークであり、それが十分な仕事を嫌っていたため、ボタンを押す能力が得られたと言う優先的なフレームワークのようなものです。 「モデルが本当に不快なものにこのボタンを大きく押していることがわかった場合、あなたは知っている、それはあなたが納得しているという意味ではありません – しかし、多分あなたはそれに注意を払うべきです。」