Искусство фильтрации: новая революция в сфере ИИ

Новая разработка учёных из России и Южной Кореи позволит компаниям эффективнее защищать свою конфиденциальную информацию при взаимодействии с большими языковыми моделями. Эта универсальная внешняя система фильтрации способна анализировать входящие запросы и исходящие ответы на наличие вредных инструкций, личной информации и нежелательных тем.

По словам старшего промпт-инженера MWS AI Данилы Катальшова, такая мера особенно необходима, поскольку лишь малая доля россиян применяет корпоративные ИИ-решения для повседневных задач, предпочитая пользоваться общедоступными системами, что создаёт значительные риски для бизнеса.

Система была успешно протестирована на одной из популярных платформ, продемонстрировав высокие показатели эффективности и безопасности. Данная инициатива существенно упрощает внедрение ИИ в различных отраслях, включая медицину и государственные учреждения, обеспечивая необходимую защиту и контроль над информацией. Об этом сообщает пресс-служба MWS AI.