Hugging Face: Проблемы с модерацией недобровольного сексуального ИИ-контента
Hugging Face, крупная платформа, размещающая миллионы моделей искусственного интеллекта (ИИ) и тысячи наборов данных, подвергается критике за отсутствие конкретных инструментов модерации, направленных на предотвращение создания и распространения недобровольного сексуального контента. Согласно исследованию неправительственной организации AI Forensics, компания не внедрила никаких существенных мер безопасности для блокировки доступа к проблемным моделям, включая те, что используются для генерации изображений и видео сексуального насилия над детьми с помощью ИИ, а также не фильтрует соответствующие запросы пользователей.
Эта ситуация вызывает особую тревогу, учитывая, что Европейский союз в рамках своего Закона об ИИ (AI Act) явно запретил использование «систем "раздевания"» (nudification systems) без согласия лиц, изображенных на них. Эксперимент, проведенный AI Forensics с использованием "приманки" для отслеживания пользовательских запросов, показал, что 73% запросов в течение всего одной недели касались контента сексуального характера, причем 60% из них, вероятно, были недобровольными.
Распространение такого рода материалов усугубляется недавними предупреждениями Фонда интернет-безопасности (IWF) о резком росте подобного контента. Как ранее объясняла бывший командир полиции Вероник Бешу, трудность различения реальных изображений детской порнографии от сгенерированных ИИ изображений тратит драгоценное время полицейских команд, занимающихся защитой жертв. Кроме того, рост числа таких материалов прямо способствует нормализации и обесцениванию сексуального насилия.
Свежие материалы — Новости технологий
☕️ Швейцарская Infomaniak готовится к выходу на биржу
Компания Infomaniak активно готовится к своему дебюту на фондовом рынке. Швейцарская фирма заключила соглашение об обратном слиянии с Perrot Duval Holding, еще одной швейцарской компанией с более чем вековой историей (основана в 1905 году). Ожидается, что этот шаг позволит Infomaniak выйти
Утечки в Claude из общедоступных чатов: В чем на самом деле проблема?
Пользователи обнаружили, что общие чаты Claude легко найти через поисковые системы. Компания Anthropic, разработчик Claude, утверждает, что это ожидаемое поведение функционала. Однако ситуация оказалась сложнее, и, что еще тревожнее, это уже четвертый подобный инцидент за год. В выходн
Что известно об Arcadia: ИИ, который должен заменить Palantir в системах армии
Система Arcadia должна была пройти испытания в рамках учений НАТО Coalition Warrior Interoperability Exercise, но в итоге не была представлена. Что же известно об этой платформе, оснащенной искусственным интеллектом, с помощью которой французская армия планирует отказаться от услуг Palantir и
Varta: Немецкий производитель аккумуляторов на грани краха после потери Apple
Немецкий производитель аккумуляторов Varta инициировал процедуру банкротства. Это решение стало прямым следствием потери одного из важнейших клиентов компании — Apple, которая приняла решение закупать миниатюрные аккумуляторы для своих наушников AirPods у китайских поставщиков, предлагающих бол
Apple подала в суд на OpenAI, обвиняя компанию в «прогнившем до основания» поведении
Сюрприз пятничного вечера Apple наносит мощный удар по OpenAI. Технологический гигант подал в суд на лабораторию ИИ, обвиняя её в организации систематического хищения коммерческих секретов с целью ускорения разработки будущих потребительских устройств. Иск направлен против OpenAI, её
Steam Machine: Первые проблемы с «красной линией смерти» и возможности кастомизации
Компания Valve начала поставки первых консолей Steam Machine своим покупателям. Однако для одного из владельцев радость оказалась недолгой: его устройство быстро показало «красную линию смерти». Знаменитое «красное кольцо смерти» на Xbox 360 стало одной из самых известных аппаратных пробле