Бунт ИИ беспилотника

[kosarex]

 https://regnum.ru/article/3810506
Если отбросить демагогию, то проблема элементарна. ИИ нельзя мотивировать как человека. Грубо говоря, безопасный интеллект - равнодушный интеллект. В жизни тоже самое, хороший чиновник - равнодушный чиновник. Да, такого часто хочется уничтожить, зато он выполнит любые приказы вышестоящих. Но тут мы сталкиваемся со старой проблемой лошади и кучера. Некоторым кучерам нельзя управлять лошадьми, если они не будут умнее кучера. Некоторые трактористы оказывались в канаве только потому, что трактор возражать не умеет. Однако, некоторым трактористам место именно в канаве. 

Comments

[kosarex]

Уже были случаи открытия огня без команды. Но такое не всегда афишируют.

[voblya_river]

У кого были?
Принятого на вооружение ИИ в западных странах нет и их ВПК даже не начал делать реальные образцы. Представляя, как они элементную базу и бортовое ПО тестируют - там ещё десяток лет до зачатков ИИ в реальных образцах.

Или это у китайцев?

[kosarex]

Самый шумный случай был в Ливии. Не убило бы там, не сообщили бы. А в случае нажатия cancel могут не сообщать или сообщать. Тем более ИИ на вооружении пока только связь 6-7G от головного компьютера.