Китайский технологический гигант Huawei заключил партнерство с Чжэцзянским университетом для разработки DeepSeek-R1-Safe — модифицированной версии популярной модели искусственного интеллекта DeepSeek, которая "почти на 100% успешно" блокирует политически чувствительный контент.
Компания использовала 1000 своих чипов Ascend AI для обучения крупной языковой модели, адаптированной из открытой версии DeepSeek R1. Тестирование показало, что DeepSeek-R1-Safe достиг "почти 100% успеха" в защите от того, что Huawei назвала "общими вредоносными проблемами", включая токсичную речь, политически чувствительный контент и подстрекательство к незаконной деятельности.
Однако эффективность модели значительно снизилась до 40%, когда пользователи пытались обходить ограничения с помощью сценарных задач, ролевых игр или зашифрованного кода.
