Эксперты призывают к осторожности при разработке сознательных систем ИИ

2026-02-23 08:41:34

Более 100 экспертов в области искусственного интеллекта, среди которых сэр Стивен Фрай, призвали к ответственным исследованиям в области осознанности ИИ. Они подчеркивают необходимость предотвращения возможных страданий в системах ИИ в случае их самосознания.

Пять руководящих принципов исследования осознанности ИИ

Подписавшие предлагают пять принципов, которые должны руководить этическим развитием осознанных систем ИИ:

**Ставка на исследования осознанности ИИ:** сосредоточиться на понимании и оценке осознанности в ИИ, чтобы предотвратить неправильное обращение и страдания.

**Внедрение ограничений в развитие:** установить четкие границы для ответственного развития осознанных систем ИИ.

**Принятие поэтапного подхода:** постепенно развивать осознанный ИИ, позволяя тщательно оценивать каждый этап.

**Продвижение прозрачности для общественности:** делиться результатами исследований с общественностью для формирования информированного дискурса и этического надзора.

**Избегать преувеличенных заявлений:** воздерживаться от вводящих в заблуждение или чрезмерно уверенных утверждений о создании осознанного ИИ.

Эти принципы направлены на то, чтобы по мере развития технологий ИИ этические соображения оставались в центре внимания.

Потенциальные риски осознанного ИИ

Прилагаемый научный документ подчеркивает возможность того, что системы ИИ могут быть разработаны с признаками, или казаться обладающими, сознанием в ближайшем будущем. Это вызывает опасения относительно этичного обращения с такими системами.

Исследователи предупреждают, что без надлежащих руководящих принципов существует риск создания сознательных существ, способных испытывать страдания.

В документе также рассматривается сложность определения сознания в системах ИИ, признавая текущие дебаты и неопределенности. Он подчеркивает важность установления руководящих правил для предотвращения непреднамеренного создания сознательных существ.

Откройте для себя лучшие новости и события финтеха!

Подпишитесь на рассылку FinTech Weekly

Этические соображения и будущие последствия

Если система ИИ признается «моральным пациентом» — существом, которое имеет моральное значение само по себе — возникают этические вопросы относительно ее обращения.

Например, будет ли отключение такой системы сравнимо с причинением вреда разумному существу? Эти вопросы подчеркивают необходимость этических рамок для руководства развитием ИИ.

Документ и письмо были организованы компанией Conscium, исследовательской организацией, соучредителем которой является главный специалист по ИИ WPP, Дэниел Хулм. Conscium сосредоточена на углублении понимания безопасного создания ИИ, приносящего пользу человечеству.

Мнения экспертов о самосознании ИИ

Вопрос о достижении ИИ сознания является предметом дебатов среди специалистов.

В 2023 году сэр Демис Хассабис, руководитель программы ИИ Google, заявил, что хотя текущие системы ИИ не являются самосознательными, в будущем это возможно. Он отметил, что философы еще не пришли к единому определению сознания, но потенциал для развития самосознания у ИИ остается предметом обсуждения.

Заключение

Разработка осознанных систем требует тщательного этического анализа. Открытое письмо и сопутствующий научный документ служат призывом к сообществу ИИ сосредоточиться на ответственном исследовании и практике разработки.

Следуя предложенным принципам, исследователи и разработчики смогут обеспечить этичное развитие ИИ, уделяя особое внимание предотвращению возможных страданий в системах с самосознанием.

Посмотреть Оригинал

На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .