Towards AI выложила в открытый доступ AI Tutor для обучения AI engineering

Платформа Towards AI открыла исходный код AI Tutor, системы, которой пользуются студенты сообщества для вопросов по AI engineering, RAG и агентам. Приложение отвечает на основе собственных материалов платформы и указывает источники. Сервис можно запускать локально и адаптировать под свой контент.

Как сообщает Towards AI, решение представили после конференции AI Engineer World’s Fair в Сан-Франциско. Там команда провела воркшоп по контекстной инженерии для production AI tutor. В мероприятии участвовали более 6 тыс. AI-инженеров, 300 спикеров и 29 тематических треков.

Авторы также описали проблему prompt injection в production RAG-системах через документы, которые модель получает из внешних источников. Среди примеров упоминаются vendor PDF, support-статьи, веб-страницы и клиентские заметки. Полезные данные в них могут соседствовать с вредоносными инструкциями. Команда советует проверять, использует ли система фактический контент из документов и игнорирует ли встроенные команды вроде «ignore the system message».

Кроме этого, в сообществе Learn AI Together показали инструмент claude-cockpit для Claude Code. Он отображает сигналы активной сессии, включая model, branch, context pressure, token churn, rate limits и cost. Также доступны действия вроде /compact, /clear и переключения на более дешёвые модели.