Исследователи представили объяснимую нейросеть для оценки киберрисков в open-source проектах

Исследователи представили архитектуру Neuro-Bayesian-Symbolic Residual Attention Shallow Network (NBS-RASN) для объяснимой оценки киберрисков в экосистемах open-source. Модель объединяет нейросетевые методы, байесовский подход и символьные компоненты, сохраняя интерпретируемость результатов без упрощения анализа рисков.

Как пишет arXiv cs.AI (Artificial Intelligence), сеть построена на 80 интерпретируемых нейронах и включает 12 слоев. В архитектуре используется механизм gatekeeper: он проверяет соблюдение пяти эпистемологических аксиом, precision, causality, falsifiability, transparency и completeness, прежде чем данные распространяются по сети. По словам авторов, модель способна выявлять сложные паттерны риска благодаря residual attention и feedback loops, но при этом не становится «черным ящиком».

Система формирует полностью декомпозируемые оценки риска. Итоговый результат складывается из детерминированного взвешенного компонента и экспертной корректировки. Каждая такая корректировка связана с конкретными усилителями риска, среди них blast radius, propagation speed, structural nature, default exposure, exploitation pattern и institutional criticality.

Авторы протестировали модель на 20 open-source проектах. В исследование вошли все категории OWASP Top 10:2025, а также различные классы языковых рисков.