Нейросеть
Нейросеть
Дмитрий Толстенёв Опубликована сегодня в 1:32

Прозрачный ИИ взломал черный ящик: почему алгоритмы начали объяснять свои решения

В мире, где нейросети пишут стихи и рисуют картины, но не могут толком сказать, как именно они это делают, российские ученые совершили неожиданный поворот. Они создали ИИ, который не прячет свою "логику" за слоями нечитаемого кода, а раскладывает все по полочкам. Как выяснилось, ключом к прозрачности стали не сложные математические формулы, а… клеточные автоматы — структуры, знакомые биологам и экологам.

Как алгоритмы научились "говорить"

Традиционные нейросети работают как запертый сейф: данные входят, ответ выходит, а что происходит внутри — загадка даже для их создателей. Это не просто неудобно — иногда опасно. Представьте, что медицинский ИИ ставит диагноз, но не может объяснить, почему. Или автономный дрон принимает решение, которое приводит к аварии, а инженеры лишь разводят руками. Российские исследователи предложили радикально иной подход: их система строит логику, как мозаику, где каждый элемент виден и понятен.

Эксперименты уже показали, что "прозрачный" ИИ способен решать сложные экологические задачи — например, предсказывать, как виды будут конкурировать за ресурсы. Но главное — технология открывает путь к гибридным системам, где часть процессов остается за "черным ящиком", а критически важные решения принимает "белый". Возможно, скоро алгоритмы не только будут давать ответы, но и смогут их обосновать — как настоящие коллеги, а не загадочные оракулы.

Подписывайтесь на Moneytimes.Ru

Читайте также

Сфинкс приоткрыл тайну — и это перевернёт всё: что скрывается под плато Гиза на глубине 1200 метров сегодня в 7:24

Под Сфинксом обнаружены загадочные подземные помещения, которые могут перевернуть представления о древних цивилизациях.

Читать полностью »
Клещи прячут новый вирус — и этот тест его вычисляет за минуты сегодня в 7:24

В России создали экспресс-тест для выявления опасного вируса Цзинмэнь, который переносят клещи — но насколько он доступен?

Читать полностью »
Вселенная подкидывает загадку: почему темная материя не хочет раскрываться сегодня в 7:24

Самый чувствительный детектор темной материи не нашел следов WIMP-частиц, зато исключил целые классы теорий.

Читать полностью »
Мёртвые рифы оживают: как учёные тайно скрещивают кораллы у берегов Майами сегодня в 7:24

Учёные пересаживают гибридные кораллы у берегов Майами, пытаясь спасти рифы от климатической катастрофы.

Читать полностью »
Археологи в Амурской области нашли редкие грузила сегодня в 6:56

Наводнение разрушило — археологи спасают: уникальные артефакты из Гащенки

Каменные грузила, фрагменты керамики и редкая система отопления: что скрывает древнее поселение в Приамурье, и почему учёные спешат его исследовать?

Читать полностью »
Рис сломал гравитацию: зачем ученые крутят растения как в космосе сегодня в 6:24

Учёные создают карликовый рис для космических миссий, вращая растения в специальных установках и редактируя их гены.

Читать полностью »
Мы живём в космической дыре — и это меняет всё: почему Вселенная расширяется не так, как думали сегодня в 6:24

Новое исследование предполагает, что Земля находится внутри гигантской космической пустоты, что может объяснить парадоксы расширения Вселенной.

Читать полностью »
Эта планета плавится без огня: как учёные разгадали её главную тайну сегодня в 6:24

Учёные раскрыли необычный механизм нагрева экзопланеты KELT-9 b, который не зависит от её звезды.

Читать полностью »