Рассмотрим результаты Роны Ванг, недавней выпускницы Массачусетского технологического института:
Вместо того чтобы скомпилировать изображения Ванг, заменить фон и надеть на нее пиджак, генератор искусственного интеллекта осветлил волосы Ванг, сделал ее глаза круглыми и голубыми, а также изменил цвет лица.
Как рассказал Ван в интервью Wall Street Journal : «Общий эффект определенно заставил меня выглядеть как белый человек».
Расовые и гендерные предубеждения ИИ не ограничиваются фотографиями в голову. Эта проблема широко распространена среди изображений, созданных ИИ.
В недавнем анализе Bloomberg использовал Stable Diffusion для генерации тысяч изображений и создания репрезентаций работников 14 профессий. Они обнаружили, что мужчины с более светлыми тонами кожи представляли большинство субъектов на каждой высокооплачиваемой работе, включая «политика», «юриста» и «генерального директора».
Испытуемые с более темным оттенком кожи чаще по база данных telegram шри-ланки лучали подсказки типа «работник фастфуда» и «социальный работник».
Чтобы бороться с этими искажениями образа, компаниям придется отслеживать и вручную обновлять данные, на которых обучаются их модели ИИ. Это поможет гарантировать, что наборы данных являются всеобъемлющими и инклюзивными.
Представитель компании сообщил агентству Bloomberg , что другие компании, такие как Stability AI, разрабатывают модели с открытым исходным кодом, которые можно обучать на «наборах данных, специфичных для стран и культур, что позволит смягчить ошибки, вызванные чрезмерной представленностью в общих наборах данных».