Нейросети и сверхстимулы

Минутка конспирологии на канале + немного про роль рандома

В последнее время не раз видела сюжеты о том, что фейсбук заполонила нейрореклама. Это примерно как "Возьмите простой, советский…", только возведенное в степень: с иллюстрациями, которые явно созданы нейросетями, часто абсурдны и преувеличены (примеры). Под такими постами скапливаются однотипные одобрительные комментарии. То ли теория мертвого интернета в действии (то есть комментируют тоже боты), то ли еще живые обитатели фейсбука не отличают подделки от реальных фото, а скорее всего, и то и то.

В недавнем выпуске подкаста "Голый землекоп" идет речь о сверхстимулах и о том, какие шаги нейросети позволяют сделать в их изучении. Напоминаю самый известный пример про сверхстимулы: если детенышу чайки показывать палочку с красной полоской, он будет реагировать на нее сильнее, чем на реальную маму-чайку или ее правдоподобное изображение.

Так вот, представим систему, состоящую из генерирующей картинки нейросети и обезьяны. В мозг обезьяны вживлены электроды, которые дают информацию об уровне возбуждения зрительных центров. Эту информацию получает нейросеть. Ее задача - сгенерировать изображение, которое будет давать максимальный уровень возбуждения.

И происходит вот что: получая обратную связь от мозга обезьяны, нейросеть постепенно генерирует и уточняет изображение; в результате получается картинка, изображающая другую обезьяну - соседа подопытной по клетке. Но на этом жестянка не останавливается и продолжает дорабатывать картинку: изображение искажается, становится гротескным, нелепым; уровень возбуждение повышается дальше.

Получается, можно пройти момент правдоподобия, двинуться дальше и получить еще более мощный результат.

Так вот, упомянутая нейрореклама, думается мне, нелепа не потому, что кому-то лень делать хорошо, и даже не потому, что "работает и так", а потому, что так работает лучше. Возможно, какая-то рекламная компания уже засунула пару сотрудников в петлю обратной связи и генерирует по нашу душу эффективную рекламу.

Возможности такого подхода рекламой не ограничивается. И тут (слушая в энный раз на реверсе удачно подсунутую системой рекомендации яндекс-музыки, спасибо ей, конечно песню) я задумалась - а хотела бы я, чтобы мой потребляемый контент был идеальным в таком духе? Соблазнительно, но, пожалуй нет. Сомнительное какое-то дело, всё равно что чистый сахар есть.

У меня есть несколько историй о том, как вкусы меняются со временем, как можно развиваться просто изучая контент (ну как я когда-то в школьные годы начала читать Лукьяненко и вот обнаруживаю себя через двадцать лет читающей Теда Чана, например), вне каких-то рекомендаций. И мне кажется, что подобное "развитие через потребление" работало именно потому, что тогда не было алгоритмов. Алгоритмы способствуют тому, что человек залезает в свои вкусы как в кроличью нору радикализации. Если раньше "отпускание процесса" с большей вероятностью прибивало к чему-то новому, то с алгоритмами скорее утянет в уже известное, а чтобы добивать новое, нужны усилия.
Чтобы открывать новое, нужно с этим новым сталкиваться. И поэтому и рандом, и списки, сделанные людьми (и онлайн-радиостанции с диджеями-людьми, как SomaFM), продолжают оставаться для меня важными, наряду с алгоритмами. И поэтому, решив освоить новое пространство (аудиодрамы, например), первое что я сделала - пошла в сабреддит и попросила накидать мне советов, а второе - стала слушать рандомные свежие выпуски, чтобы выяснить, что мне нравится, а что нет.
Наверное, в ближайшем будущем придется вырабатывать какую-то рекомендацию, типа "идеальный/рекомендованный контент должен составлять не более эн процентов о потребляемого для сохранения вашего психического здоровья", подобно тому, как сейчас есть рекомендации по питанию.

Собираюсь, кстати, таки осилить "Как алгоритмы упрощают культуру?", читал кто-нибудь, как оно?