ИИ как «отличник-зубрила»

Швейцарские ученые обнаружили, что ИИ для разработки лекарств работает как «отличник-зубрила» — вместо понимания физики взаимодействий алгоритмы просто запоминают шаблоны из данных.
🔬 Стресс-тест для ИИ. Исследователи модифицировали белки и лиганды так, чтобы их связывание стало физически невозможным. Но в 50% случаев ИИ (включая AlphaFold и RosettaFold, которые принесли своим разработчикам Нобелевскую премию по химии в 2024 году) предсказывал прежнюю структуру взаимодействия, игнорируя изменения.
❗️ Глобальная проблема. Современные ИИ работают на статистической корреляции, не понимая причинно-следственных связей. Ученые рекомендуют использовать их только как вспомогательный инструмент с обязательной экспериментальной проверкой.