OpenAI, Anthropic и Google DeepMind обсуждают безопасность ИИ в условиях растущих рисков

OpenAI, Anthropic и Google DeepMind активно ведут переговоры по вопросам безопасности в сфере искусственного интеллекта. Крис Лейн, глава глобальной политики OpenAI, сообщил о том, что компании стремятся координировать свои усилия для снижения катастрофических рисков, связанных с передовыми моделями ИИ.

Эти инициативы стали реакцией на эссе, написанное генеральным директором Anthropic Дарио Амодеи, в котором он призвал к замедлению разработки больших языковых моделей и объединению индустрии для предотвращения возможных негативных последствий. В его призыв поддержали такие фигуры, как Сэм Альтман из OpenAI, Демис Хассабис из Google и Илон Маск. Альтман также выразил готовность привлечь независимых аудиторов для оценки безопасности своих технологий.

Несмотря на возможные опасения относительно антимонопольного законодательства, участники переговоров считают, что эти риски преувеличены. Амодеи предлагал получить специальное разрешение от правительства для обсуждений, однако Лейн подчеркнул, что компании могут свободно вести диалог о стандартах безопасности.

Ранее сообщалось о планах создать отраслевой комитет по стандартизации без участия государства. Хассабис также высказывал необходимость в создании регулирующего органа, способного проверять мощные ИИ-модели и приостанавливать разработки в случае выявления потенциальных угроз. Тем не менее, текущая администрация, возглавляемая президентом Дональдом Трампом, отвергла эти предложения, рассматривая их как попытку замедлить прогресс в технологии и уступить лидерство Китаю.

Кроме того, Лейн подтвердил поддержку OpenAI законопроекта FRONTIER Act, который вводит федеральный надзор за разработкой передовых ИИ и обязывает крупные лаборатории допускать независимые организации для оценки безопасности своих технологий.