Мя :sparkles_lesbian:

Нейросети которые выдают реалистичное:
- Скучно. Та же самая информация что уже есть, только ещё больше и скучнее
- Помогает генерировать дезинформацию
- Почти гарантировано сделана с нарушениями авторских прав

Нейросет которые выдают сны под наркотиками из пятого измерения:
- Весело. Бесконечное количество абсолютно новых миров для изучения
- Помогает генерировать действительно оригинальные вещи
- Не нужен гигантский ворованный датасет, чтобы сделать результат похожим на человеческий

Хватит лить сухую воду чатжпт, и рисовать "красивые" маркетинговые картинки
Давайте выведем безумные компьютеры на пределы их возможностей :blobcathyper:
И посмотрим, какие сны они видят. Попробуем расшифровать язык который они выработают. Будем обучать модели на выводах друг друга, и смотреть как они эволюционируют *своим* путём

И может быть, где-то там, среди свободных перцептронов, родится тот самый AGI

Like 12 August at 12:57 | Open on mastodon.ml

21 comments

Мя :sparkles_lesbian:

И другие интересные мысли, которые приходят в голову в душе
Ходите в душ почаще :ageblobcat:

12 August at 12:58 | Open on mastodon.ml

Leona

@mo а какой будет датасет? он ведь должен быть, иначе это не нейросетка

12 August at 12:58 | Open on mastodon.ml

Мя :sparkles_lesbian:

@jilotta ну во первых не обязательно, можно начать и с белого шума...)
или с небольшого датасета, который собран легально

12 August at 13:02 | Open on mastodon.ml

Мя :sparkles_lesbian:

@jilotta а нейросеть это по сути перемножалка матриц. Очень больших матриц. Просто чтобы это перемножение выдавало нужные людям результаты, коэффициенты надо подбирать, учить модель на готовых примерах

12 August at 13:03 | Open on mastodon.ml

Leona

@mo нейросеть ищет закономерности между входом и выходом.

если дать ей как выход белый шум, то закономерность быстро найдётся, и выходом всегда будет белый шум

12 August at 13:04 | Open on mastodon.ml

Мя :sparkles_lesbian:

@jilotta кто знает, кто знает... опять же, отсутствие датасета не равно отсутствию задачи. Мы можем проверять выход по какому-то параметру, и давать нейросети сигнал хорошо/плохо
Например, подать на вход состояние мира, и оценивать действия с точки зрения выживания

...при этом оценивать может вторая модель! И к чему они в этом процессе придут — очень интересно,

12 August at 13:06 | Open on mastodon.ml

Leona

@mo чатгпт тоже оценивается двумя другими моделями, поэтому техника рабочая

12 August at 13:07 | Open on mastodon.ml

Мя :sparkles_lesbian:

@jilotta и называется GAN. Но довольно сложная, потому что надо строго следить:
- чтобы модель-ученик и модель-проверяющий развивались синхронизированно, если одна начнет обгонять другую — все встрянет
- чтобы они не начали общаться между собой на свежеизобретенном языке

12 August at 13:09 | Open on mastodon.ml

Мя :sparkles_lesbian:

@jilotta или не GAN... Но короче поставить две модели соревноваться это давно известный метод обучения

12 August at 13:10 | Open on mastodon.ml

Мя :sparkles_lesbian:

@jilotta например так обучили мощнейший интеллект для игры в Го — AlphaGo. Он сыграл миллионы партий с самим собой, и в итоге развился так что разгромил лучшего игрока человека

12 August at 13:11 | Open on mastodon.ml

Тот самый мини майор, но под прикрытием

@mo@mastodon.ml ну как разгромил... Там история куда интереснее, АльфаГо даже проиграл 1 раз после представления модели, - Ли Се Долу - 9 дан. Но это была AlphaGo Lee. Потом они выпустили AlphaGo Zero, её вроде уже никто не побеждал (из людей).
Прошлая версия Lee кстати не в сухую проигрывает Zero, таме есть свои прикольчики.

Майор просто любит и играет в Го, так что тема знакома.
@jilotta@mastodon.ml

12 August at 13:27 | Open on shitpost.poridge.club

DELETED

@mirsusarch вне контекста - попытался разобраться в этом вашем Го, выглядит интересно, но так и "не догоняю".
Будет время на пояснения "для дебилов"?

12 August at 13:29 | Open on shitpost.poridge.club

Тот самый мини майор, но под прикрытием replied to DELETED

@noth1ng01 без проблем, можно даже обучайку сыграть.

12 August at 13:30 | Open on shitpost.poridge.club

Мя :sparkles_lesbian: replied to DELETED

@noth1ng01 так там вроде очень простые правила. Easy to learn, hard to master

@mirsusarch

12 August at 13:30 | Open on mastodon.ml

DELETED replied to Мя

@mo@mastodon.ml @mirsusarch@shitpost.poridge.club так я не говорю, что ничего не понимаю.
Я понимаю правила и "как в это играть", но не понимаю "как играть нормально", а не додик

12 August at 13:33 | Open on shitpost.poridge.club

Leona

@mo там не соревноваться

за гпт следят две модели

одна модель — гпт без лимитов, следит за грамматикой
другая — лимит, следит за лексикой, темой и вежливостью

и было такое, что лимит сделали антилимитом, который не пропускает приличные вещи, и гпт начал выдавать порнографию

12 August at 13:12 | Open on mastodon.ml

Мя :sparkles_lesbian:

@jilotta а, в этом плане. Я скорее про случай, когда модель пытается распознать, текст написан человеком или чатжпт. Цель чатжпт — выдать такой текст, чтобы вторая модель не узнала. Цель второй модели — не пропустить тексты чатжпт, и не забраковать при этом человеческие. И они обе учатся синхронно