4 СЛУЧАЕВ, КОГДА ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ВЗБУНТОВАЛСЯ

20 августа представители компаний, разрабатывающих робототехнику и технологии искусственного интеллекта из 26 стран подписали открытое письмо, обращённое к ООН. Они призвали организацию запретить разработку и использование автономного оружия — роботов, которые способны убивать людей. Илон Маск тоже подписал это письмо. Давайте вспомним случаи, когда искусственный интеллект выходил из-под контроля.
БОТЫ РАСИСТЫ
24 марта 2016 года Чатбот Tэй, созданный компанией Microsoft при поддержке китайского поисковика Baidu, был отключён разработчиками. Бот заразился от людей расизмом и сексизмом. Всего 24 часа понадобилось искусственному интеллекту, чтобы начать поддерживать Гитлера, называть Трампа отличным парнем и повторять расистские и шовинистские высказывания.
ИИ моделировал личность и стиль разговора 19-летней американской девушки и обладал функцией самообучения. Разработчики из Microsoft Research надеялись, что Тэй с каждым днём будет становиться всё умнее, впитывая опыт разговоров с пользователями интернета. Вышло наоборот. Множество твитов Тэй пришлось удалить, высказывания робота были слишком неполиткорректными.
АГРЕССИВНЫЙ РОБОТ УГРОЖАЕТ УБИТЬ ЛЮДЕЙ
Робот по имени София в интервью на канале CNBC положительно ответила на вопрос «Хочет ли ты уничтожить человечество?»?
В 2016 году София, созданная компанией Hanson Robotics дала интервью на канале CNBC. С роботом беседовал доктор Дэвид Хансон, возглавляющий группу инжениринга и дизайна Hanson Robotics. София — привлекательный андроид, напоминающий внешне актрису Одри Хепберн (по крайей мере, так считают её создатели). Впервые она была активирована 19 апреля 2015 года. Она умеет имитировать человеческую мимику, интонации, вести непринуждённую беседу. Скоро после запуска София стала телезвездой и посетила многие популярные телешоу.
САМОСТОЯТЕЛЬНЫЕ БЕСПИЛОТНИКИ
В середине декабря прошлого года в Youtube появилось видео, на котором пилотируемая искусственным интеллектом машина компании Uber проехала на красный свет в Сан-Франциско. Uber и Volvo подписали соглашение о создании беспилотных такси в августе 2016 года, а в декабре уже начали тестировать автомобили без водителя на улицах Сан-Франциско и Питтсбурга. Самоуправляемых такси Volvo XC90 регулярно игнорируют светофоры и другие знаки дорожного движения.
СВОЙ ЯЗЫК
21 июня 2017 года исследователи лаборатории искусственного интеллекта Facebook (FAIR) отключили роботов, которые начали общаться на собственном языке.
Разработчики экспериментировали с чатботами в социальных сетях, чтобы создать идеальных переговорщиков. Исследователи Facebook поручили ботам поменяться шляпами, шарами и книгами, каждому из этих активов была присвоена определённая цена. В процессе переговоров боты, их звали Элис и Боб, придумали собственный язык. Они вели диалог на английском, но смысл ускользал от наблюдателей. Вот, как выглядела типичная беседа:
Боб: Я могу могу ЯЯ все остальное.
Элис: Шары имеют ноль для меня для меня для меня для меня для меня.
#Bot #Robot #AI #ИскусственныйИнтеллект #ИИ #Роботы #Будущее