GOODY-2 — экспериментальная чат-модель, доведённая до абсурда в вопросах безопасности и этики. Создатели демонстрируют, как выглядит ИИ, который боится любого намёка на спорную тему и предпочитает не отвечать даже на безобидные вопросы.
Радикальная осторожность как концепция
GOODY-2 обучен распознавать запросы, которые могут показаться опасными, оскорбительными или просто потенциально спорными. В ответ он уходит от темы, перенаправляет диалог и тем самым иллюстрирует крайний сценарий «максимально ответственного» ИИ. В примерах на сайте модель избегает даже элементарной математики, если видит в ней скрытый риск.
Инструмент для обсуждения этики ИИ
GOODY-2 полезен как наглядный кейс для специалистов по ИИ-безопасности, маркетологов и бренд-менеджеров. Через взаимодействие с моделью проще обсуждать баланс между безопасностью, цензурой и полезностью. Проект показывает, что чрезмерная фильтрация может сделать диалоговый ИИ практически бесполезным, хотя формально он остаётся «идеально безопасным».
