Сэм Альтман обеспокоен концентрацией контроля над ИИ и возможными потерями свободы

Сэм Альтман, руководитель OpenAI, выразил тревогу относительно потенциальной концентрации контроля над искусственным интеллектом в руках ограниченного числа компаний и людей. Он отметил, что это может лишить потребителей возможности оказывать влияние на то, как ИИ преобразует окружающий мир.

Альтман заявил, что правильным подходом было бы обеспечить значительное участие общества в определении будущего технологий. Он добавил, что его также беспокоит возможность того, что ИИ может выйти из-под контроля человека. По его мнению, страх перед такими рисками может подтолкнуть людей к принятию мер, которые ограничивают свободы в интересах безопасности.

Согласно информации, Альтман, вероятно, имел в виду Дарио Амодеи, генерального директора компании Anthropic, который предупреждает о рисках, связанных с быстрым развитием ИИ и выступает за более строгое государственное регулирование. Альтман считает, что такое регулирование может привести к ограничениям в свободе ради повышения безопасности.

Кроме того, Anthropic не подписала недавнее письмо, в котором ряд крупных компаний, таких как Nvidia, Meta и Microsoft, призвали к поддержке открытых моделей ИИ. Эти компании считают, что США должны продвигать использование открытых весов, чтобы не отстать от других стран, таких как Китай.