Разработчики ChatGPT предупреждают, что искусственный интеллект может привести к исчезновению человечества
Руководители компании OpenAI, разработавшей ChatGPT, предупреждают: огромная сила «сверхразума» может уничтожить человечество. Они предлагают создать исследовательскую группу, которая определит варианты контроля за системами искусственного интеллекта.
Как пишет интернет-издание Welt.de, компания OpenAI намерена собрать новую исследовательскую группу и инвестировать значительные ресурсы в обеспечение безопасности искусственного интеллекта для человечества.
В своем блоге соучредитель OpenAI Илья Суцкевер (Ilya Sutskever) и руководитель одного из отделов компании Ян Лейке (Jan Leike) отметили:
«Огромная сила «сверхразума» может привести к лишению человека прав и возможностей или даже к его исчезновению. Теперь у нас нет возможности направлять или контролировать потенциально сверхинтеллектуальный искусственный интеллект и препятствовать ему идти своим путем».
Авторы блога предсказывают, что сверхинтеллектуальные системы искусственного интеллекта, которые умнее людей, могут стать реальностью в течение этого десятилетия. Людям понадобятся лучшие методы, чем те, что доступны сегодня, для управления сверхинтеллектуальным искусственным интеллектом.
Microsoft планирует использовать в течение следующих четырех лет пятую часть своих вычислительных мощностей для разработки решения этой проблемы. Компания также находится в процессе создания для этой цели новой исследовательской группы под названием Superalignment Team.
Издание отмечает, что потенциальная опасность искусственного интеллекта сейчас интенсивно обсуждается исследователями и общественностью.
ЕС уже согласовал проект закона о регулировании искусственного интеллекта. Сейчас в США идет дискуссия об отнесении по примеру ЕС систем искусственного интеллекта к категориям риска и о выработке соответствующих требований к компаниям, разрабатывающим или использующим системы искусственного интеллекта, требований по обеспечению доверия, безопасности, прозрачности и соблюдению прав человека.
В марте группа лидеров и экспертов индустрии искусственного интеллекта подписала открытое письмо, в котором упоминается потенциальный риск искусственного интеллекта для общества и содержится призыв к шестимесячному перерыву в разработке систем, более мощных, чем версия OpenAI GPT-4.
Больше всего от развития искусственного интеллекта пострадают работники умственного труда — аналитики
В Германии церковную службу впервые провел искусственный интеллект
Искусственный интеллект помог прочитать таблички с клинописью, которым пять тысяч лет
Искусственный интеллект в офисе не добавляет работникам счастья
Сдаст ли Трамп Украину России? Почему демократы разгромлены? К чему приведет одновременный контроль республиканцев над исполнительной и законодательной властью?8181
Комментарии