Сайт In the Weights показывает, каких людей могут «вспоминать» AI‑модели из обучающих данных
Двое бывших сотрудников OpenAI создали сайт под названием In the Weights, который демонстрирует, каких людей модели искусственного интеллекта способны узнавать на основе своих обучающих данных. Проект показывает, чьи имена и личности сильнее всего «закодированы» в параметрах моделей.
На сайте используется показатель strength score, он может достигать значения 996 и отражает, насколько глубоко конкретный человек представлен в обучении модели. Чем выше значение, тем сильнее, по задумке авторов, модель связана с этой персоной.
В верхней части списка по этому показателю находятся Mozart, Shakespeare и Taylor Swift, что указывает на особенно сильное присутствие этих фигур в обучающих данных моделей.
Ключевые факты
Два бывших сотрудника OpenAI создали сайт под названием "In the Weights".
Сайт показывает, каких людей модели ИИ могут вспомнить исключительно на основе своих обучающих данных.
Показатель strength score может достигать 996 и отражает, насколько сильно человек «встроен» в данные модели.
В списке с наивысшими значениями strength score упоминаются Mozart, Shakespeare и Taylor Swift.