Рамки для нейросетей: какие ограничения могут ввести

Искусственный интеллект технически можно ограничивать с помощью программных фильтров, отметил коммерческий директор Цельс, генеральный директор Botkin Al Артем Капнинский. В беседе с MoneyTimes он оценил идею введения цензуры при использовании искусственного интеллекта.

Напомним, ранее издание "Ведомости" сообщило, что как заявил замглавы Минцифры Александр Шойтов на форуме "ИИ: режим доверия", искусственный интеллект в России, в отличие от человека, должен быть подвергнут цензуре.

Любые ограничения в работе искусственного интеллекта реализуются на уровне программирования, еще до обработки информации самой нейросетью, отметил Капнинский. По его словам, речь идет не столько о цензуре, сколько о технических барьерах, которые регулируют допустимые запросы и ответы.

"Фильтрами возможно. Это же поступление либо передача какой-то информации в любом случае. Прежде чем в саму нейронную сеть что-то попадает, она проходит какие-то ступени. На этом этапе можно", — отметил Капнинский.

Он добавил, что такие ограничения могут применяться как к входящим запросам, так и к формированию ответов. При этом эксперт считает, что подобные меры во многом зависят от этических норм — например, недопустимо давать инструкции, связанные с насилием или угрозами безопасности.

"Ответ, например, на то, как создать бомбу, давать не надо. Здесь чисто этические и моральные вещи, на мой взгляд. Пока искусственный интеллект это не нечто самостоятельное. Хорошо, что это пока управляемо", — подчеркнул эксперт.