はじめに
ここでは、家庭医がAIに仕事が奪われることのない理由の一つとしてのフレーム問題を紹介しています。
しかし、なぜ、フレーム問題が根拠で、家庭医がAIに仕事が奪われることのないのか、についての理由はここで説明していません。家庭医療の本質を理解している人は、フレーム問題がなにか、の説明を聞くだけで、すぐにピンとくるからです。ピンとこない場合は、家庭医療の本質をまだ理解できていない、と考えていただく方が良いと思います。
また、家庭医療に限らず、AIによって奪われない仕事をするには、このフレーム問題から逃れられない課題を扱う業種に関わるという選択をするのが一つの合理的な考え方だと思います。
ここまでの経緯
以下の２本によって2045年ごろのシンギュラリティーの到来とともに、人工知能は人間を超え、その後の出来事は人間には予測不能になると論じられていました。その話が私の耳に入り始めた頃から、AIと医師との関わりについて考えるようになり、当時は確かにそのような時代がやってきて、医師の仕事は、AIに奪われると考えていました。
- Vinge, V. (1993). The coming technological singularity: How to survive in the post-human era. Paper presented at the VISION-21: Interdisciplinary Science and Engineering in the Era of Cyberspace, NASA Lewis Research Center, Cleveland, OH. Retrieved from NASA Technical Reports Server.
- Kurzweil, R. (2005). The singularity is near: When humans transcend biology. New York, NY: Viking.
しかし、2009年に、
最終講演 「家庭医療に未来はあるのか？」第21回家庭医療学夏期セミナー 2009年 8月7-9日 新潟
として、かなりアグレッシブな提案を含めた講演させていただいた時には、すでに、このエントリーとは別のとある理由で少なくとも家庭医療（プライマリ・ケア）に関しては、シンギュラリティー後も人間の仕事は奪われないという考えに変わっていました。
（SF映画を絡めながら家庭医の未来の医療について考える講演はこの後何度もブラッシュアップしながら、続けさせていただいており、今年も岡山でこのお話をさせていただきました。家庭医がなくならない理由や、映画の好きな方はお呼びいただければ、お話しできます）
現在はこの「とある理由」とここで挙げたフレーム問題の2つを、少なくとも家庭医に関してはAIに仕事を奪われることのない理由として考えています。
フレーム問題とは何か
これについては下記の動画を見ていただくのが一番早いと思います。
初出：McCarthy & Hayes 1969 の論文
フレーム問題の「元祖」とされるのが、ジョン・マッカーシーとパトリック・ヘイズによる次の論文です。
なんと、これはこの記事を執筆している時点で、被引用数: 6478 というすごい論文です。
この論文は、単なるプログラミング技術の話ではなく、AIが直面する哲学的な問題を整理しようとする試みでした。
彼らは、状況計算（situation calculus）などの論理形式を使って「世界」「行為」「時間」「知識」を表現する際に出てくる根本的な問題を、哲学の言葉で位置づけ直そうとしています。
なぜ「哲学的」問題なのか
一見するとフレーム問題は、「論理式が増えて面倒」という技術的なボトルネックに見えます。
しかしマッカーシー＆ヘイズが重視したのは、次のようなより深いレベルの問いでした。
- 世界のうち「何が変わり得て、何が通常は変わらないとみなせるのか」を、どうやって決めるのか。
- エージェント（ロボットやAI）は、どの事実を“前提として保持し続け”、どの事実を“見なくてよい”と判断しているのか。
- 人間は常識的に「関係のあることだけ」を選び取って推論しているように見えるが、そのメカニズムを形式化できるのか。
これは、単なる効率化の問題ではありません。
「何が重要か」「何を無視してよいか」を決めることは、世界観や常識、価値の構造と深く結びついており、認識論や心の哲学のテーマそのものだと考えられたのです。
ロボットと爆弾の寓話とのつながり
上記McCarthy & Hayes 1969 の論文では実はロボットの例は出てきません。ロボットの例を用いて、フレーム問題をわかりやすく説明したのは、哲学者ダニエル・デネットです。
Dennett, Daniel C. “Cognitive Wheels: The Frame Problem of AI.”
In Christopher Hookway (ed.), Minds, Machines and Evolution, Cambridge: Cambridge University Press, 1984, pp. 129–150.
フレーム問題を分かりやすく説明するために、哲学者ダニエル・デネットが「バッテリーと爆弾の部屋に行くロボット」の寓話を提示しました。
- ロボットR1は「バッテリーを持ち帰れ」とだけ命じられ、バッテリーの上に爆弾が乗っていることを考慮せず、そのまま運んで爆発させてしまう。
- 改良型のロボットR1D1は、行動に伴うあらゆる副作用を論理的に推論しようとするあまり、関係の薄いことまで延々と考え続けて動けなくなり、時間切れを迎える。
この寓話が示しているのは、次の二つの極端です。
- 副作用を無視しすぎると、致命的な危険を見落とす。
- 副作用をすべて列挙しようとすると、計算が終わらず、行動できない。
つまりAIにとっての核心は、「何を考慮し、何を切り捨ててよいか」という“枠（frame）”を自律的に選ぶことの難しさです。
この「関連性の選択」を形式的にどう表せるかが、フレーム問題の哲学的な核心だと言えます。
なぜ今も重要なのか
現代の機械学習やディープラーニングは、マッカーシーらの記号論理ベースのAIとはスタイルがかなり異なります。それでも、次のような問いは依然として重要です。
- モデルは、入力のどの部分を「重要」と見なしているのか。
- 現実世界で自律的に動くロボットは、センサーから得られる膨大な情報のうち、何を切り捨てるべきなのか。
- 常識的な「あり得ない事態」をいちいち検討せず、適度に無視する振る舞いをどう実装するか。
こうした問いは、まさにフレーム問題の現代版の姿と言えます。
1969年に提示された古典的な問題設定は、いまだに「AIは世界の何を見ているのか？」という根本問題を照らし続けているのです。
参考
キーワード：総合診療、家庭医療、AI、フレーム問題
ここまで
コメント