Разработчик почти установил вредоносный пакет, предложенный ИИ-агентом

Во время разработки программного обеспечения один из инженеров обратился к ИИ-агенту с просьбой предложить пакет для решения конкретной задачи. В ответ агент рекомендовал пакет, замаскированный под известную библиотеку, который на самом деле был вредоносным.

К счастью, в компании Softjourn применяется политика, согласно которой сотрудники обязаны дважды проверять все программные решения, предлагаемые ИИ. Инженер, изучив исходный код пакета на GitHub, заметил, что у него было всего несколько загрузок и он был создан всего несколько дней назад, что вызвало у него подозрения.

Сергей Фицак, управляющий директор Softjourn, отметил, что злоумышленники обращают внимание на то, что некоторые модели ИИ могут генерировать правдоподобные названия пакетов, которые на самом деле не существуют. На крупных платформах киберпреступники создают проекты с такими названиями, рассчитывая на невнимательность разработчиков. Если бы протоколы безопасности в Softjourn не действовали, инженер мог бы установить вредоносный пакет, который мог бы, например, красть данные или причинять иной вред. Проверка, по словам Фицака, занимает всего несколько минут, но позволяет избежать серьезных последствий для проекта.