Нейросеть
Нейросеть
Дмитрий Толстенёв Опубликована сегодня в 1:32

Прозрачный ИИ взломал черный ящик: почему алгоритмы начали объяснять свои решения

В мире, где нейросети пишут стихи и рисуют картины, но не могут толком сказать, как именно они это делают, российские ученые совершили неожиданный поворот. Они создали ИИ, который не прячет свою "логику" за слоями нечитаемого кода, а раскладывает все по полочкам. Как выяснилось, ключом к прозрачности стали не сложные математические формулы, а… клеточные автоматы — структуры, знакомые биологам и экологам.

Как алгоритмы научились "говорить"

Традиционные нейросети работают как запертый сейф: данные входят, ответ выходит, а что происходит внутри — загадка даже для их создателей. Это не просто неудобно — иногда опасно. Представьте, что медицинский ИИ ставит диагноз, но не может объяснить, почему. Или автономный дрон принимает решение, которое приводит к аварии, а инженеры лишь разводят руками. Российские исследователи предложили радикально иной подход: их система строит логику, как мозаику, где каждый элемент виден и понятен.

Эксперименты уже показали, что "прозрачный" ИИ способен решать сложные экологические задачи — например, предсказывать, как виды будут конкурировать за ресурсы. Но главное — технология открывает путь к гибридным системам, где часть процессов остается за "черным ящиком", а критически важные решения принимает "белый". Возможно, скоро алгоритмы не только будут давать ответы, но и смогут их обосновать — как настоящие коллеги, а не загадочные оракулы.

Подписывайтесь на Moneytimes.Ru

Читайте также

Скорость и стабильность: как кабель Sol от Google улучшит интернет для миллионов сегодня в 9:35

Google строит подводный интернет: новый кабель Sol свяжет Европу и США!

Google представила масштабный проект подводной кабельной системы под названием Sol, который соединит Европу и США через Испанию, Флориду, а также Бермудские и Азорские острова.

Читать полностью »
Кости исчезают без следа: питоны научились переваривать несъедобное сегодня в 9:25

Ученые обнаружили уникальные клетки в кишечнике питонов, позволяющие им полностью переваривать кости добычи — и это может быть не единственный такой пример в природе.

Читать полностью »
Мозг на жирах заработал как новый: что скрывает кето-диета за цифрами сегодня в 9:25

Кето-диета не только ускоряет кровоток в мозге, но и резко повышает уровень защитного белка — но безопасно ли это в долгосрочной перспективе?

Читать полностью »
Эта вода стояла здесь 2000 лет — скоро в нее снова можно будет окунуться сегодня в 9:24

В Турции восстанавливают древнеримский бассейн возрастом 2000 лет, который откроют для посетителей в 2025 году.

Читать полностью »
Мозг аутиста не переключает передачи: что скрывает нейронный хаос сегодня в 9:24

Ученые выяснили, как нарушенные связи между нейронными сетями мешают детям с аутизмом переключать внимание и контролировать поведение.

Читать полностью »
Челябинские кости напугали учёных: куда пропадают древние останки после исследований сегодня в 9:24

В Челябинске нашли древние останки, но после исследований их, вероятно, снова захоронят — почему так происходит?

Читать полностью »
Кольца взбунтовались против законов физики: что нашел Джеймс Уэбб на краю Солнечной системы сегодня в 9:24

Телескоп "Джеймс Уэбб" обнаружил у транснептунового объекта Кваоар кольца, которые не должны существовать — и теперь учёные ищут объяснение этому феномену.

Читать полностью »
Палеонтологи Британии раскрыли нового мастера выживания мезозоя сегодня в 9:13

Неожиданный сосед тираннозавра: найден древний хищный грызун

Бритвенные зубы и мини-челюсть: в Англии найден древний универсал мезозоя, способный питаться всем подряд — от червей до плотных растений.

Читать полностью »