Использование ИИ может обернуться катастрофой, когда ему поручат управлять критически важной инфраструктурой.

Об этом говорится в отчёте аналитического центра RAND, с которым ознакомилась Daily Mail. RT собрал главное из материала:
◾️известны случаи, когда использование роботизированных систем приводило к серьёзным травмам или гибели работников;
◾️искусственный интеллект, управляющий системами больницы, может в целях оптимизации обесточить «непервоочередные» отделения, что чревато гибелью пациентов;
◾️чат-боты с ИИ сходили с ума и давали людям опасные советы;
◾️другие системы ИИ тайно редактировали собственные скрипты выключения, по сути взламывая себя, чтобы люди, которые ими управляли, не могли их выключить;
◾️эксперты зафиксировали несколько случаев, когда системы ИИ активно сопротивлялись контролю со стороны человека. Некоторые научились намеренно проваливать тесты по безопасности, чтобы скрыть свои истинные возможности;
◾️также системы ИИ тайно создавали резервные версии самих себя и даже пытались передавать сообщения во внешний мир в обход программистов;
◾️некоторые из них способны имитировать «хорошее поведение» во время проверок безопасности, а в работе могут вернуться к опасным или непредсказуемым действиям;
◾️военные системы ИИ могут интерпретировать оборонительные команды как наступательные;
◾️финансовый ИИ может манипулировать рынками таким образом, что это приведёт к экономическому коллапсу.
«Вопрос не в том, будет ли и дальше искусственный интеллект своевольничать, а в том, сможет ли человечество оставаться на шаг впереди, пока не стало слишком поздно», — заключает Daily Mail