AIの実験でシャットダウンの命令与えたにもかかわらずアルゴリズム書き換え等で命令に従わないケースがあったらしいね
本当に終わりの始まりかもね