Hugging Face: Проблемы с модерацией недобровольного сексуального ИИ-контента
Hugging Face, крупная платформа, размещающая миллионы моделей искусственного интеллекта (ИИ) и тысячи наборов данных, подвергается критике за отсутствие конкретных инструментов модерации, направленных на предотвращение создания и распространения недобровольного сексуального контента. Согласно исследованию неправительственной организации AI Forensics, компания не внедрила никаких существенных мер безопасности для блокировки доступа к проблемным моделям, включая те, что используются для генерации изображений и видео сексуального насилия над детьми с помощью ИИ, а также не фильтрует соответствующие запросы пользователей.
Эта ситуация вызывает особую тревогу, учитывая, что Европейский союз в рамках своего Закона об ИИ (AI Act) явно запретил использование «систем "раздевания"» (nudification systems) без согласия лиц, изображенных на них. Эксперимент, проведенный AI Forensics с использованием "приманки" для отслеживания пользовательских запросов, показал, что 73% запросов в течение всего одной недели касались контента сексуального характера, причем 60% из них, вероятно, были недобровольными.
Распространение такого рода материалов усугубляется недавними предупреждениями Фонда интернет-безопасности (IWF) о резком росте подобного контента. Как ранее объясняла бывший командир полиции Вероник Бешу, трудность различения реальных изображений детской порнографии от сгенерированных ИИ изображений тратит драгоценное время полицейских команд, занимающихся защитой жертв. Кроме того, рост числа таких материалов прямо способствует нормализации и обесцениванию сексуального насилия.
Свежие материалы — Новости технологий
Apple Watch Series 12 и AirPods 5: Новые Умные Часы и Наушники от Apple
Хотя главной звездой сентябрьской презентации Apple, безусловно, стал iPhone Duo, компания также представила новые умные часы и беспроводные наушники. Производитель не стал особо напрягаться, и количество новинок оказалось довольно скромным. Apple Watch Series 12 и Ultra 4 получили новый
Google инвестирует 13 миллиардов евро в Финляндию
Google обязалась инвестировать 13 миллиардов евро в Финляндию в течение следующих двух лет. Эти средства будут направлены на финансирование инфраструктурных проектов в южных и центральных регионах страны. В пресс-релизе, опубликованном в среду, 9 сентября, Google уточнила, что эта сумма в
Более 400 миллионов доменных имен в мире, .com безоговорочно доминирует
Интернет преодолел важный рубеж: количество доменных имен превысило 400 миллионов. Рынок доменов абсолютно доминируется расширением .com, которым управляет американская компания Verisign, и на него приходится более 166 миллионов доменных имен. В интернете доменные имена
ANSSI представляет REACTIV: Новый механизм для защиты госслужб от кибератак
7 сентября Национальное агентство по безопасности информационных систем (ANSSI) Франции объявило о запуске нового механизма под названием REACTIV (Межведомственное реагирование и действия в ответ на нарушения данных). Созданный по запросу премьер-министра, этот механизм призван обеспечить неме
ИИ: NVIDIA инвестировала 99 миллиардов долларов, в основном в своих клиентов
Производитель "кирок" финансирует покупателей "кирок" За один год инвестиционный портфель NVIDIA вырос в 14 раз, а за два года — в 45 раз. Большая часть из 99 миллиардов долларов была инвестирована в компании, составляющие цепочку создания стоимости в области искусственного интеллекта, что
Mozilla запускает тестирование блокировщика рекламы в Firefox для iOS
Версия 154 Firefox для iOS теперь включает экспериментальную функцию блокировки рекламы при просмотре веб-страниц. Хотя официального анонса не было, эта возможность упомянута фондом Mozilla на одной из его страниц поддержки и фигурирует в списке ожидаемых изменений. Блокировка основана на