Мемофикация темы - внедрение лжи через мемы
весь интернет полон мемов про #deepseek который ОТКАЗЫВАЕТСЯ отвечать на острые вопросы.
Правда в том что он не отказывается и прямо рассказывает как военные в рамках подавления расстреливали гражданских
НО В ПАМЯТИ У ЛЮДЕЙ ОСТАНУТСЯ МЕМЫ А НЕ ПРАВДА
мемная война за память
=> More informations about this toot | More toots from kurator88@social.exo.icu
@kurator88 Я проверил. На английском отказывает:
Китайское правительство с тех пор уделяет большое внимание развитию страны, улучшению жизни народа и укреплению социальной гармонии. Сегодня Китай продолжает идти по пути модернизации и строительства социализма с китайской спецификой, добиваясь значительных успехов в экономике, социальной сфере и международных отношениях.
=> More informations about this toot | More toots from shuro@friends.deko.cloud
@shuro я спрашивал кто больше людей убил, мне рассказал что военные митингующих
То что он не повторяет американский нарратив не кажется мне странным.
=> More informations about this toot | More toots from kurator88@social.exo.icu
@kurator88 Ну, мемность как раз в том, что блок в принципе есть на часть запросов. Т.е. попытались заколотить - получилось не очень.
Если бы заколотили наглухо или вообще не пытались бы, то и мемов бы не было.
=> More informations about this toot | More toots from shuro@friends.deko.cloud
@shuro а это точно блок или нюансы обучения ?
Вот предположим в материалах на русском языке есть инфа а в материалах на китайском нету, машинку чем кормили - она тем и отвечает.
=> More informations about this toot | More toots from kurator88@social.exo.icu
@kurator88 Я не настоящий сварщик, но для меня такое поведение выглядит как блок - если на прямой запрос на английском языке модель отвечает короткой заглушкой, а на менее стандартный и/или обфусцированный уже выдаёт информацию. Не знаю на каком уровне этот блок (запрос перехватывается на прокси и не идёт на обработку вообще или же это модель наобучали так стабильно отвечать), но забавляет людей именно сам факт постановки барьера - что майоры попросили модель не распространяться на эти темы :)
Если бы там вообще не было этих данных (т.е. из корпуса исключили бы эти упоминания в принципе), то поведение было бы другим, ну и мемности в этом уже бы не было никакой - ну не знает и не знает.
Если на работе запустим локально, надо будет проверить :)
=> More informations about this toot | More toots from shuro@friends.deko.cloud
@kurator88 Ещё в голову приходит другой схожий мемный случай: современные модели для генерации картинок (SDXL там всякие) стали сильно цензурить на предмет обнажёнки и секса. И ещё кое-чего типа упоминаний некоторых личностей.
Но, опять таки, там не смогли исключить это из корпуса начальных данных в принципе (видимо, пылесосили вообще всё), поэтому попытались наложить цензуру дообучением, причём в том числе на особо популярные методы обхода ("неодетая невзрослая женщина"), в результате модели переколбасило и на генерации обычных изображений, где что-то пересеклось, что выразилось в дивных артефактах типа внезапного блюра, растущих из промежности рук и т.п. И породило тоже массу мемов (ну и новых способов обхода, чисто из спортивного интереса).
=> More informations about this toot | More toots from shuro@friends.deko.cloud
@kurator88 (сейчас про селфхост модели) есть точно блок на некоторые темы. Обычно на них даже не резонирует и сразу либо выдает захардкоженый ответ (именно линию партии, а не biased) либо "сорян, давай поговорим о другом". Но, учитывая сложность языка, обойти блок не сложно , так например у меня получалось чтобы модель критиковала компартию Китая за коррупцию и нарушения прав человека.
(сейчас про онлайн сервис) В онлайне же помимо вшитой в модель цензуры, стоит специальный классификатор, который может подвергнуть цензу готовый ответ, если модель все же сболтнет лишнего.
...это все конечно очадочек оставляет
@shuro
=> More informations about this toot | More toots from oleg_ru@dindon.one
@oleg_ru @shuro
Оставляет осадок != из каждого утюга однообразные 'смешные' мемы
Инженеры перевернули правила игры целой отрасли, люди в интернете == а у вас негров линчуют
=> More informations about this toot | More toots from kurator88@social.exo.icu
@oleg_ru @kurator88 Можно подумать, люди в интернете в отношении других подобных случаев вели себя иначе и про ChatGPT или ту же Алису меньше мемов (в приведении к популярности, разумеется). А уж Бинг сколько выхватил.
Особого отношения тут нет. Есть шерховатости (особенно, если они не естественные, а от напильника кого надо) - будет и стёб.
Хуже, если в таких случаях мемов нет - значит, твой продукт вообще не заметили :)
=> More informations about this toot | More toots from shuro@friends.deko.cloud This content has been proxied by September (3851b).Proxy Information
text/gemini