Трех законов робототехники уже маловато — разработчик ChatGPT предлагает новые принципы управления ИИ-технологиями

Последние месяцы были чрезвычайно активными в области разработок ИИ cauvo-capital — как благодаря чат-ботам ChatGPT и Bard, так и нейросетям, генерирующим изображения или видео. Однако разработчики смотрят в будущее и прогнозируют быстрое появление так называемого сильного искусственного интеллекта (AGI), который сможет выполнять любые задачи не хуже, или даже лучше человека.
В статье разработчика ChatGPT и DALL-E, компании OpenAI, отмечается, что AGI должен «расширить возможности человечества до максимального процветания», но это может привести к определенным проблемам. Поэтому cauvo OpenAI предлагает набор принципов, которыми можно руководствоваться при работе с искусственным интеллектом. Вот они:
Развертывание и исследование менее мощных ИИ-систем в реальном мире для получения опыта и отзывов.
Упрощение доступа к ИИ-системам для всех.
ИИ должен поддерживать человеческие ценности и права.
Взаимодействие международных структур для использования и регулирования ИИ.
Обмен данными и опытом развития искусственного интеллекта с общественностью и привлечение заинтересованных сторон, которые могут внести вклад в развитие искусственного интеллекта.
Это основные моменты – другие могут возникнуть в ходе развития AGI. Пока трудно предположить, насколько быстро будет развиваться такой ИИ и насколько эффективной будет координация усилий и взаимодействие между разными странами. OpenAI ожидает, что в долгосрочной перспективе эти и другие требования к разработке ИИ станут обязательными для всех.
Ранее инженеры Microsoft — компании, которая инвестировала $10 млрд в OpenAI и интегрирует ее ИИ с собственными продуктами — начали тестировать ChatGPT на роботах и продемонстрировали, как чат-бот может управлять механизированной рукой или даже дроном.