Голландская студия научила нейросеть определять нарисованные пенисы и стыдить пользователей за такие рисунки Статьи редакции

Так компания хочет обратить внимание на проблему цензуры, которую технологические корпорации устанавливают в соцсетях.

В 2016 году Google запустил игру Quick, Draw!, в которой нейросеть угадывала зарисовки пользователя. Через год компания опубликовала открытую базу данных рисунков, но в ней отсутствовало самое популярное изображение в мире — пенис.

Исправить «ошибку» Google взялась голландская студия дизайна Moniker, которую спонсирует Mozilla. Компания создала искусственный интеллект Do not Draw a Penis, определяющий зарисовки пенисов.

Если нарисовать пенис, то искусственный интеллект ответит: «Мы полагаем, что это была ошибка» или «Нам не нравится, что вы рисуете неприличные вещи», после чего сотрёт зарисовку. Другие объекты нейросеть иногда угадывает, а если не может их определить, то называет рисунок абстракцией или даёт общие комментарии вроде «Мы все обожаем рисовать».

Если нарисовать пенис несколько раз, то нейросеть берёт управление в свои руки и начинает изображать мужские половые органы в различных вариациях. Попутно она грубит и оскорбляет пользователя.

Идея кажется шуткой, но Moniker и Mozilla высказывают серьёзный тезис: «Должны ли мы беспокоиться о том, какие моральные нормы устанавливают технологические корпорации, ведь мы живём в мире, где они решают, на что нам разрешено смотреть в интернете?»

Представитель Moniker Роул Вотерс рассказал The Verge, что неспособность искусственного интеллекта Google распознать пенис, по большому счёту, незначительна, но она символизирует власть технических корпораций. Он отметил запрет сосков в Фейсбуке и Инстаграме как пример более серьёзного американского ханжества, которые навязывается всему миру.

Вотерс рассказал, что ему нравится проект Quick, Draw!, и он даже использовал инструмент компании TensorFlow, чтобы создать альтернативу. Но он отметил, что компании всё чаще используют искусственный интеллект, чтобы модерировать свои платформы. Из-за этого вероятность ошибочной цензуры возрастает.

При этом возрастает и вероятность самоцензуры: зная, что искусственный интеллект может определить «непристойные» мысли или эмоции, пользователи вообще не станут их выражать, полагает Вотерс.

При этом Вотерс не считает, что его проект – это манифест свободы слова. «Скорее он напоминает о непрошеной власти корпораций и их патерналистских тенденциях. Для нас нарисовать пенис — это непринуждённый символ бунтарства», — отметил он.

#google #mozilla #instagram #искуственныйинтеллект #соцсети #технологии