――フレーム問題ってのをwikiで見たけど　http://ja.wikipedia.org/wiki/%E3%83%95%E3%83%AC%E3%83%BC%E3%83%A0%E5%95%8F%E9%A1%8C
これって一定の閾値に達した時点で計算をやめて決断すればいいんじゃないの？
大体爆弾を爆発と認識しておいて、その場でじっとしていたらそのまま爆弾が爆発する可能性や、爆弾を洞窟の外に持ち出して人間に危害を与える可能性が脅威度の高い事象だと判断出来ないロボットなんか、欠陥品だろ

まず自身を破壊する可能性が高いと推測した時点で計算をやめて、異常事態の発生なんだから外部と連絡が取れる方法を検索する。

もし方法が見つからないなら、いつまでも計算していても爆発する可能性の方が脅威なので、計算を短時間で切り上げる
独自に判断すると決めたら、バッテリーを取って来る命令と自己保全との優先順位を比較する。これは予めプログラミングされているかもしれない