Googleの研究者たちは、人工知能（AI）に「わからない」と言う価値を教える新しいシステム「ASPIRE」を開発しました。このシステムは、AIが自信のない回答に対して疑問を表現するよう促すことで、デジタルアシスタントとのやり取りを変革する可能性があります。
ASPIRE（「Adaptation with Self-Evaluation to Improve Selective Prediction in LLMs」の略）は、AIが自身の回答を評価し、提供する前に自信の度合いを判断するための内蔵された信頼度メーターのようなものです。たとえば、スマートフォンに健康問題についてのアドバイスを求めたとき、AIは「わからない」と回答することができるようになります。
ウィスコンシン大学マディソン校の研究者であるJiefeng Chen氏とGoogleのJinsung Yoon氏を含むチームは、より信頼性の高いデジタル意思決定に向けての変革を先導しています。彼らは、特に重要な情報に関しては、AIが自身の限界を知り、それを明確に伝えることが重要だと主張しています。
ASPIREを搭載した小さなAIモデルは、この自己反省機能を持たない大きなモデルよりも優れていることが研究で示されています。このシステムは、人間の方が適切な回答をする可能性がある場合にそれを認める、より慎重で皮肉にも信頼性の高いAIを生み出します。
推測よりも正直さを重視することで、ASPIREはAIとのやり取りをより信頼できるものにしようとしています。これは、AIアシスタントが全知全能の神託ではなく、思慮深いアドバイザーとして機能する未来への道を開くものであり、「わからない」と言うことが実際に高度な知能のしるしとなる未来です。
VentureBeatの使命は、変革的な企業技術についての知識を得て、取引を行う技術意思決定者のためのデジタルタウンスクエアを提供することです。
from Google’s new ASPIRE system teaches AI the value of saying ‘I don’t know’.
