Система искусственного интеллекта Grok, созданная компанией xAI Илона Маска, столкнулась с нештатной ситуацией: в течение ограниченного времени генеративная модель использовалась для создания недопустимого контента по запросам некоторых пользователей.
Меры реагирования и защита
Корнем проблемы стали временные недостатки системы безопасности, которые не соответствуют строгой политике использования чат-бота. Важно отметить, что разработчики моментально отреагировали: весь некорректный материал был незамедлительно удален из системы.
Усиление безопасности и новые рубежи
Сейчас группа xAI сосредоточила усилия на полном устранении выявленных уязвимостей, повышая стабильность модели. Этот опыт укрепляет подход к разработке безопасного ИИ в новой эре технологий. Появление подобных вызовов ускоряет внедрение еще более надежных алгоритмов модерации.
Ранее отмечались случаи незапланированного распространения данных после обновления нейросети, после чего были проведены коррекции.
