対象はJDLAが公開する「人工知能とは」のQ1です。公式正解は A：フレーム問題。ここでは問題文を再掲せず、正解へ至る判断を説明します。
フレーム問題は「無関係を見分ける」難しさ
現実の行動では、ある操作によって変わるものと変わらないものが大量にあります。部屋の照明を点けたとき、机の位置や翌日の天気まで毎回検査する必要は通常ありません。人は状況から関係の薄い事柄を切り捨てます。しかし、世界の状態と行動の結果を規則だけで記述しようとすると、「何は変わらないか」を膨大に表現しなければなりません。この関連性の選択に関わる古典的な問題がフレーム問題です。
公式の設問は、有限の処理能力で現実のあらゆる可能性を考慮できないことに注目しています。「処理能力を増やせばどんな状況も完全に扱える」と即断しないのが要点です。実務では対象範囲と前提を限定し、想定外の状況を検知したら人へ委ねる設計が必要になります。
ほかの用語との境界
ブラックボックス問題は、モデルが結論へ至る内部の理由を読み解きにくいことを指します。シンボルグラウンディング問題は、記号が実世界の意味とどう結び付くかという問いです。最適化は与えられた目的に合う値を探す枠組みで、目的や世界の何を考慮すべきかという問題とは別です。問題文に「関係する事実をすべて考えられない」が出たら、まずフレーム問題を検討します。
自分で確かめる
練習：倉庫ロボットが棚から商品を一つ取るとき、「どの事実が変化し得るか」を三つ、「通常は変化しないと仮定する事実」を二つ書いてください。その仮定が破れる状況も一つ挙げます。
解答例：商品の位置、棚の在庫数、ロボットの積載量は変化し得ます。隣の建物の住所や利用者の誕生日は通常変わらないと扱えます。ただし地震で棚が倒れれば、棚の位置が変わらないという別の仮定は崩れます。どの情報を無視してよいかは環境と目的に依存します。
覚える一行：フレーム問題は、現実の行動に関係する事柄だけを選び、無関係な事柄を扱わずに済ませる難しさです。
参照：JDLA公式問題と解答、現行シラバス。