Безопасность при работе с ИИ

Ника Николаева, обозреватель

— Расскажите, как искусственный интеллект усложняет соблюдение требований информационной безопасности для IТ-инфраструктуры?

Максим Тятюшев, генеральный директор «СберТеха»

— В последнее время искусственный интеллект стал таким дополнительным инструментом хакеров или злоумышленников, которые пытаются ворваться в вашу систему. Поэтому если ты это не контролируешь, то, скорее всего, возможны утечки.

— Соответственно, для этого вы представляете свою новую платформу.

— Да.

— Расскажите, что она из себя представляет и какие механизмы контроля вы используете?

— Мы разработали Platform V SOWA AI. Это шлюз, которые позволяет контролировать использование искусственного интеллекта разных LLM-моделей внутри крупной организации. В «СберТехе» у нас развернуто несколько LLM-моделей on-premise, и несколько моделей у нас есть «клаудное» использование. На стыке этих моделей находится наш шлюз, который позволяет использовать корпоративные политики. То есть который позволяет нам быть уверенным в том, что мы не передаем за периметр приватной информации. И самое важное — он позволяет нам убеждаться в том, что входящий ответ от LLM-модели тоже не нанесет ущерба внутри нашей компании.