✏️ ️Посты 🌍 Путешествия Подписаться 👍 Донат
🔍
👤
Нейромирон
Как мы с нейросетью пытались писать рэп, но зря
28 июня 2017 — 39 комментариев — 41386 просмотров — 1531 слово

Винишко и тексты оксимирона — два главных столпа нашего мироздания. Однажды вечером, совместив их внутри себя, мне пришла в голову мысль: сейчас модно-хайпово всё подряд генерировать нейросетями. Яндекс пишет классическую музыку в стиле Скрябина, нашумевшая в прошлом году Prisma обрабатывает фотографии в стиле известных художников, независимые разработчики генерируют котиков и архитектуру по рисунку в пеинте. А чем мы хуже-то?

Яндекс так сладко рассказывает про нейросети, но никогда не показывает их код и почти не раскрывает детали реализации. Домашним затейникам типа меня приходится раз за разом изобретать свои велосипеды по обрывкам статей в интернетах. Кому интересны набитые шишки, использованные и отброшенные подходы — проходите в соседний пост «Как создавался Нейромирон» после прочтения этого.



Комментировать

Более формально задача звучала так: как-то взять «стиль» определенного автора и придумать такую штуку, которая будет писать тексты в этом стиле, но по заданной тематике. Со стилем идея пришла сразу — надо писать рэп. Модно, молодежно. А чтобы совсем было интересно, было решено взять сложный и многогранный флоу Oxxxymiron. До его уровня красоты и многоступенчатости языка живым-то людям далеко, а как с этим справится глупая бездушная машина? Интересно. Это вызов.



Комментировать

За одно проверим старую шутку, что Оксимирон «просто рифмует википедию».

В качестве источников текстов, на которые будет накладываться «стиль», взял три:

— Лев Толстой, «Война и Мир». Но отбросил, так как получалось не смешно.
— Стивен Хокинг, «Краткая история времени». Моя любимая книжка про астрофизику.
— Уголовный Кодекс РФ. Самое ироничное, что пришло в голову.

Можно было взять абсолютно любой текст, но я остановился на этих как на самых забавных для нашего эксперимента.



Комментировать

Сейчас без дисклеймеров никуда по ходу. Не понимает народ шуток. Потому сразу на берегу оговорим несколько важных вещей.

  1. Всей этой фигней я занимался исключительно потому что это весело и генерит экспу в области нейросетей. Никакой практической применимости, полезности и всего того, что вы себе можете напридумывать, здесь нет.

  2. Сразу хотелось напихать писюнов кричащим «совсем не похоже», «говно вышло» и «да моя мама лучше напишет». Любой мало-мальски развитой мартышке очевидно, что понятие «стиля» и «похожести» отличается даже у людей. А машину вообще странно обвинять в том, что она не дотягивает до какого-то там уровня.

  3. Оставшихся писюнов передаю тем, кто будет репостить это говно с заголовками «в сети научились генерировать тексты оксимирона» и «новый Горгород написали с помощью нейросетей». Тут даже близко нет того уровня и скорее чудо, что вообще хоть что-то получилось. Об этом и пост.

  4. Я нихрена не понимал в Deep Learning'е до начала работы над этой идеей.

Надеюсь эти пункты снимут большинство вопросов. Вернемся к делу.



Комментировать

Один из авторов Автопоэта Яндекса, Алексей Тихонов, в своей статье правильно сказал: Хорошая для человечества новость — в том, что качественная генерация невырожденных «смыслов» (например, сюжетов, сценариев или нарративов) пока остаётся уделом человека.

Тексты — это сложно. По этой причине сейчас так мало работ по генерации текста, и так много про картинки и видео. Та же Prisma. На первый взгляд кажется, что тексты намного проще, на деле всё наоборот. Когда мы видим результат работы нейросети, мы оцениваем его через наши «человеческие» понятия о красоте, смысле и стиле. Так получается, что для визуальной информации это диапазон весьма широк — можно изменить половину изображения и никто не заметит подвоха. С текстом не так.

Изменение одного слова на тексте уже ломает его восприятие. Резануло же глаз это «на тексте», не так ли? Поэтому обработка и генерация текстов до сих пор задача более сложная, чем картинок или видео. Разве что аудио сравнимо, потому Siri до сих пор говорит как гуглобаба.

Сложна она не вычислительно, а в субъективности результатов. Глупая бездушная машина, обучаясь на нашем человеческом языке, сама делает какие-то предположения и строит связи как можно говорить, а как нельзя. Но она понятия не имеет о смысле. Она использует буквы и слова в тех сочетаниях, в которых она слышала как говорят люди. Как маленький ребенок, повторяющий обрывки слов за родителями.

Говорить о реальном переносе абстрактного «смысла» пока еще рано. Работ в этой области я не видел.

А вот забыть о смысле и работать с контентом и стилистическими особенностями вполне реально. Вот что произошло, когда я написал простенькие эвристики и решил прогнать через них куплет трека, совместив с текстом Уголовного Кодекса РФ.

Смысла нет, но получается забавно. Время подключать нейросети!



Комментировать

На самом деле никакой «авторской стилистики» не существует. Все эти ритмы и амфибрахии нужны только теоретическим лингвистам, чтобы мучать ими пятиклассников на уроках литературы. Да и они между собой договориться не могут как правильно в каком случае. Сами же авторы давно не пишут в одном размере или стиле, потому говорить о стиле — значит заведомо ошибаться.

Я не претендую на какие-то новые открытия в области и отношусь к стилю чисто с технической стороны. С помощью простых и известных эвристик текст был разбит на составляющие: слоги, фонемы, ударения, количество гласных и всё такое. А потом без какой-либо обработки скормлен нейросети, чтобы сама искала между ними какие-то закономерности.

Естественно, живые люди используют куда более сложные стилистические приемы, но мы тут эксперименты по фану ставим, а не полного соответствия добиваемся. Подробнее об этом написано в длинном техническом посте, не буду углубляться.

Не удивительно, что на выходе получается немного каша, нам лишь нужно превратить эту кашу во что-то веселое и похожее на правду.

https://vas3k.blog/blog/394/



Комментировать

По итогам всего новый Горгород у нас, конечно, не получился. Но даже отрицательный результат — всё равно результат и должен быть опубликован. Так считаю.

Чтобы всё не выглядело совсем стрёмно, некоторые слова я отредактировал для их синтаксической связанности. Например, чтобы не получалось двух предлогов подряд и других некрасивых вещей. Из всех результатов я отобрал примерно 1% самых интересных, остальные были совсем бредовые. Наверное стоило как-нибудь перевести это всё в речь и наложить на бит, но на этом этапе я уже просто устал и пошел заниматься другими делами.



Комментировать
процессуальным устоем 
за всё это высшее движимый дом 
тем временем роскошь едва создающих 
и этим минуя преступника миссия 
в том на каждого в нём дача продажи в процессе 
но я на главой и ниже ладони и буквы в запасе 
города в производственной базе 
где вахтой коптящих дорогу из государственного в невозможности 
будто жаль не до старости высших сил справедливости 
мне ход тусклой законности 
чем от нефти стабильности 
и не ебу я как за кадром по закону как 
но моё время брак высшее лишь текст ебу 
мой срам документальный враг ё

Ваще жиза, да? Лайк если было.

что у тебя я не мог миллиона 
сила побег жилых 
под данных мученья услуг 
бухой тебе предложения слуг

Почти не редактировал результат. Мне кажется это нейросетевое эссэ с очень глубоким смыслом. Нам, кожаным ублюдкам, не понять.

каким бы техническими ни был захват новорожденных рокеров 
мой моллюск продолжает я был клоун с видом грязь 
но лет пять в жилмассивах дурь на интернет дорожает меня ждала та рутина и ненаказуемость 
не вернулся не пал при метро сокращается стоимость 
рассмотреть меня полностью 
мы девиз инвалидами муравейник 
беден законами 
достигать эту цель эшелонами

Здесь из нейросети запахло экстремизмом. Ты глупый, кумплюктир, за это теперь сажают.

но ты единственный по перемещению вышел 
из ограничения устав обоюдного влечения 
порочит нас деторождением 
я писак извлечением 
что нового в почете 
со штаниной на учете

Так и не понял что произошло со штаниной, но дальше машина решила сохранить тайну.

как ни зовёт разведка 
минуя ли близких ветеринарных 
говорят я в кино в данных 
осенит важных 
но я вякнул достижение 
мой анатолий и моё хищение 
ни луперкаль в них отношение 
такие хоуми 
порнографическое склонение

Луперкаля знаю, но кто такой Анатолий? Откуда ты вообще это берешь?



Комментировать
звездной флуктуацией масс управляя движением 
собирай лучевой аппарат приучая детей к тяготению 
этой темной стороны биологии закопанной 
в ней теологии в сети где течет энергия целесообразности 
во всю пред амфетамина на нашей светимости 
на словах мы наркотик сиама ландау 
твои мысли заменили наркотиком 
гамма-пульсаром

Всё так и было.

той где на вес 
загнётся в мире парадокс 
той где на вес (<- тут уже я скопипастил для смеха) 
а ты у бора уикс дорога голод сфинкс 
венецианский обелиск 
гибель частицы 
блеск

Строчку «той где на вес» она сама родила. Хотя не удивительно, в «Там где нас нет» эта фраза повторяется кучу раз, вот и научилась. Но по-своему.

бездна fuck рим град 
из которой приемлемо 
им наступило 
моим и штанин больше проблем бремя 
моим на вносимое мы понимаем на вносимое мы 
занимаем со мною греки 
до горизонта слоем зови какому друзьями

Кажется, она хочет до меня доебаться. Не учите детей по текстам рэперов, потом вот такими вырастают.

в моих людях цепи молодой детдом 
рой устах типа миля той 
на темной материи хора 
такой течет ли сейчас впереди головой 
зато среди рой вот на ногой темных 
за креслу такой цилиндр 
твой волновой

Почему-то из Хокинга получаются коротенькие строчки. Надо попробовать его использовать для «пирожков».

я обходил цилиндр 
это тор 
второго смотрю я набор 
нейтронов камня смысл 
пар мы шли с символикой града 
на невилл
и тор

Тору пиздец по ходу.

то твой фристайл
твои столкновения 
ты частный и темный рассказ
типа 
вида свечения президентом горения брось свои извлечения 
бэттл мой столкновения 
твоё ебло заблуждения

Нужно послать нейросеть на версус, неплохой панч про ебло.



Комментировать

Тексты и правда сложнее картинок. Удивлен, что вообще из этого что-то забавное получилось. Всего хорошего, подписывайтесь там, ставьте классы.



Комментировать
Комментарии 👇
Василий 29 июня 2017 в 11:31 #
2

А чё годный такой речитативчик :)

MVKich 29 июня 2017 в 13:27 #
3

Надо Онегина впихнуть

Попробуйте Олег 29 июня 2017 в 17:13 #
3

С Хокинга годно получилось. Хочу оксимирона aaS, буду научпоп ему кормить.

000 30 июня 2017 в 07:25 #
4

Вот кстати ребята тем-же самым занимались, но с элементами шоу https://www.youtube.com/watch?v=iZC-E4wQe_s

Hanggard 06 сентября 2017 в 10:46 #
1

Надо было Гнойного ставить, а не Мирона) Тогда б поперло, азазаз

Brettaromo 14 сентября 2017 в 11:28 #
0

<a href=http://genericrevia.pro/>revia</a> <a href=http://diclofenacgel.pro/>diclofenac</a>

Charleschure 14 сентября 2017 в 11:45 #
0

<a href=http://colchicine.mba/>colchicine</a> <a href=http://atarax.directory/>atarax</a>

Stewartjem 14 сентября 2017 в 12:58 #
0

<a href=http://buystrattera.reisen/>buy strattera</a> <a href=http://triamterene.live/>triamterene 37.5mg hctz 25mg tabs</a>

Charleschure 14 сентября 2017 в 13:39 #
0

<a href=http://buy-clindamycin.shop/>generic clindamycin</a> <a href=http://buy-ampicillin.store/>ampicillin antibiotic</a> <a href=http://genericcelexa.pro/>buy generic celexa</a> <a href=http://propranololonline.pro/>propranolol</a>

BillyAlado 14 сентября 2017 в 13:49 #
0

<a href=http://viagrapills.pro/>viagra</a> <a href=http://antabuse.schule/>order antabuse no prescription</a> <a href=http://buy-clindamycin.shop/>clindamycin</a> <a href=http://buyinderal.shop/>inderal</a>

Charleschure 14 сентября 2017 в 14:17 #
0

<a href=http://buy-elocon.reisen/>buy elocon</a> <a href=http://clomidcost.pro/>clomid</a> <a href=http://lipitorgeneric.reisen/>lipitor generic</a>

Brettaromo 14 сентября 2017 в 15:24 #
0

<a href=http://buy-levitra.shop/>levitra</a>

Brettaromo 22 сентября 2017 в 14:13 #
0

<a href=http://indocin247.us.com/>generic indocin</a> <a href=http://medrolpack.us.org/>medrol pack</a>

Stewartjem 22 сентября 2017 в 14:52 #
0

<a href=http://cymbaltageneric.us.org/>cymbalta generic</a>

Charleschure 22 сентября 2017 в 15:23 #
0

<a href=http://cialis365.us.com/>Order Generic Cialis Online</a> <a href=http://cipro247.us.com/>buy cipro</a> <a href=http://medrolpack.us.org/>MEDROL PACK</a>

AaronPal 22 сентября 2017 в 16:16 #
0

<a href=http://colchicine247.us.com/>buy colchicine online</a> <a href=http://viagra247.us.com/>buy viagra</a> <a href=http://fluoxetine20mg.us.org/>fluoxetine 20 mg</a>

AaronPal 22 сентября 2017 в 16:18 #
0

<a href=http://doxycyclineprice.us.org/>Doxycycline Price</a>

AaronPal 22 сентября 2017 в 17:05 #
0

<a href=http://cialispills.us.org/>cialis price</a> <a href=http://doxycycline100mg.us.org/>doxycycline 100 mg</a> <a href=http://cheapvardenafil365.us.com/>generic vardenafil</a>

Charleschure 22 сентября 2017 в 17:24 #
0

<a href=http://lisinopril20mg.us.org/>lisinopril 20mg</a>

BillyAlado 22 сентября 2017 в 17:27 #
0

<a href=http://cymbaltageneric.us.org/>cymbalta generic</a> <a href=http://doxycyclineprice.us.org/>buy Doxycycline</a>

Charleschure 22 сентября 2017 в 17:34 #
0

<a href=http://hydrochlorothiazide12.us.org/>hctz</a> <a href=http://bupropionsr150mg.us.org/>bupropion</a> <a href=http://viagra247.us.com/>buy viagra</a>

Brettaromo 22 сентября 2017 в 20:29 #
0

<a href=http://fluoxetine20mg.us.org/>fluoxetine 20 mg</a>

AaronPal 22 сентября 2017 в 21:16 #
0

<a href=http://doxycycline100mg.us.org/>buy DOXYCYCLINE</a> <a href=http://cephalexin250mg.us.org/>buy cephalexin</a> <a href=http://colchicine247.us.com/>Buy Colchicine</a>

Stewartjem 22 сентября 2017 в 21:16 #
0

<a href=http://cymbaltageneric.us.org/>cymbalta generic</a> <a href=http://hydrochlorothiazide12.us.org/>amlodipine hydrochlorothiazide</a>

AaronPal 22 сентября 2017 в 21:17 #
0

<a href=http://cheapvardenafil365.us.com/>vardenafil</a>

Charleschure 22 сентября 2017 в 21:42 #
0

<a href=http://cheapvardenafil365.us.com/>vardenafil</a>

Brettaromo 22 сентября 2017 в 21:44 #
0

<a href=http://colchicine247.us.com/>colchicine online</a> <a href=http://lisinopril20mg.us.org/>lisinopril 20mg</a> <a href=http://cialispills.us.org/>cialis pills</a>

AaronPal 22 сентября 2017 в 22:08 #
0

<a href=http://cymbaltageneric.us.org/>cymbalta generic</a> <a href=http://cialispills.us.org/>cialis online order</a> <a href=http://colchicine247.us.com/>Buy Colchicine</a>

Stewartjem 22 сентября 2017 в 22:35 #
0

<a href=http://colchicine247.us.com/>Buy Colchicine</a> <a href=http://cymbaltageneric.us.org/>Cymbalta Mastercard</a>

Charleschure 22 сентября 2017 в 23:00 #
0

<a href=http://effexorxr.us.org/>effexor xr</a>

Charleschure 22 сентября 2017 в 23:51 #
0

<a href=http://viagra247.us.com/>generic viagra online</a>

Charleschure 23 сентября 2017 в 00:02 #
0

<a href=http://colchicine247.us.com/>purchase colchicine</a>

Charleschure 23 сентября 2017 в 01:10 #
0

<a href=http://fluoxetine20mg.us.org/>Fluoxetine Pill</a> <a href=http://cymbaltageneric.us.org/>Cymbalta Generic</a>

Charleschure 23 сентября 2017 в 01:16 #
0

<a href=http://cialispills.us.org/>explained here</a> <a href=http://cialis365.us.com/>Purchase Cialis</a> <a href=http://cheapvardenafil365.us.com/>Vardenafil Over The Counter</a>

alxmamaev 23 сентября 2017 в 01:34 #
0

Йоу, хоуми, я этим в январе как то занимался, и не поленился и трек записал :D https://drive.google.com/file/d/0B5ah1Ch1n0YxR1RkbmRKeklIUkk/view?usp=drivesdk

BillyAlado 23 сентября 2017 в 02:37 #
0

<a href=http://lisinopril20mg.us.org/>lisinopril 20mg</a> <a href=http://cipro247.us.com/>buy cipro</a>

AaronPal 23 сентября 2017 в 08:09 #
0

<a href=http://fluoxetine247.us.com/>resource</a> <a href=http://erythromycin500mg.us.org/>erythromycin 500 mg</a>

AaronPal 23 сентября 2017 в 08:17 #
0

<a href=http://cialis365.us.com/>order cialis</a> <a href=http://cipro247.us.com/>buy cipro online</a>

contramot 03 февраля 2019 в 23:55 #
1

по Хокингу до сингулярности дошла, сука

Еще? Тогда вот