Точка зрения АРМИТ и Новости

Список новостей

Предыдущая

Следующая

Скрытые угрозы: чем рискует бизнес при бесконтрольном использовании ИИ

Скрытые угрозы: чем рискует бизнес при бесконтрольном использовании ИИ

«Сотрудники регулярно загружают в открытые ИИ-сервисы рабочие документы: договоры, финансовые отчеты, планы запусков. Информация попадает в среду, которую компания не контролирует. Техника промпт-инъекций позволяет злоумышленникам извлекать из моделей чужие конфиденциальные данные: достаточно сформировать набор специальных запросов, и нейросеть с определенной вероятностью выдаст сведения, которые ранее по невнимательности загрузил другой пользователь…» Читать полностью