AIによる自動運転に関するちょっと怖い話

ちょっと前にラジオで聞いた、AIによる自動運転のちょっと恐い話。

AIといえど、プログラミングするのは人間。
次のようなときAIがどう判断すべきかも、前もってプログラミングしておかなければならない。

同乗者と共に走行中、前方に障害物。
止まろうにも、ブレーキが壊れている。
左右どちらかの塀に車体を擦り付けて止まるしか、方法がない。

しかし右側には子供、左側には老人がそれぞれ歩いている。
子供を犠牲にして止まるか、はたまた老人か。
あるいは自分及び同乗者が犠牲、つまり止まらずに障害物に衝突するか。

その判断も、事前にプログラミングしておかなければならないのだ。