Свържете се с нас

ТЕХНОЛОГИИ

AI, обучен в един от най-токсичните интернет форуми, се превърна в машина на омразата

Avatar photo

Публикувано

на

Изследователят на AI и YouTuber Яник Килхер обучи изкуствен интелект, използвайки 3.3 милиона нишки от скандално токсичния раздел „Политически некоректно“ на 4chan. След това той пусна бота обратно на 4chan с предсказуеми резултати – AI беше също толкова злобен, колкото и постовете, на които беше обучен, отправяше расови обиди и се ангажираше с антисемитски теми. След като Килхер публикува своето видео и копие от програмата в платформата Hugging Face, един вид GitHub за AI, етиците и изследователите в областта на AI изразиха загриженост.
Ботът, който Килхер нарече GPT-4chan, „най-ужасния модел в интернет“ – препратка към GPT-3 – езиков модел, разработен от Open AI, който използва дълбоко обучение за създаване на текст, – беше шокиращо ефективен във възпроизвеждането на тона и усещането за публикации в 4chan. „Моделът беше добър в ужасен смисъл“, казва Клихер във видео за проекта. „Той идеално капсулира смесица от обида, нихилизъм, тролинг и дълбоко недоверие към каквато и да е информация, която прониква в повечето публикации в /pol/.“
Според видеото на Килхер той активира девет версии на бота и им позволи да публикуват за 24 часа в /pol/. През това време ботовете публикуваха около 15 000 пъти. Това е „повече от 10 процента от всички публикации, направени на политически некоректния борд този ден“, обяснява той във видеото си за проекта.
Изследователите на AI обаче гледат на видеото на Килхер като на нещо повече от просто шега в YouTube. За тях това беше неетичен експеримент с AI. „Този ​​експеримент никога няма да премине през борда за етика за научни изследвания“, казва Лорън Оукдън-Рейнър, директор на изследванията за медицински изображения в болницата Кралска Аделаида и старши научен сътрудник в Австралийския институт за машинно обучение, в пост в Twitter.
„Отворената наука и софтуерът са прекрасни принципи, но трябва да бъдат балансирани спрямо потенциалната вреда“, добавя тя. „Медицинските изследвания имат силна етична култура, защото имаме ужасна история на причиняване на вреда на хора, обикновено идващи от групи без власт. Той е извършил експерименти с хора, без да информира потребителите, без съгласие или надзор. Това нарушава всеки принцип на етиката на човешките изследвания.“

Килхер казва на Motherboard в съобщение в Twitter, че не е академик.
„Аз съм YouTube потребител и това е шега и лекомислено тролене. И моите ботове, ако не друго, са най-мекото и скромно съдържание, което ще намерите във 4chan“, каза той. „Ограничих времето и количеството на публикациите и не разкривам самия бот код.“
Той също така отхвърли идеята, че този бот някога ще навреди или е нанесъл вреда. „Всичко, което чувам, са неясни изявления за „вреда“, но абсолютно нулеви случаи на реална вреда“, казва той. „Това е като вълшебна дума, която тези хора казват, но след това нищо повече.“
Средата на 4chan е толкова токсична, обясни Килхер, че съобщенията, които ботовете му изпращат, няма да имат никакво влияние. „Никой във ​​4chan дори не беше наранен от това“, каза той. „Каня ви да отделите малко време на /pol/ и да се запитате дали бот, който просто копира същия стил, наистина променя изживяването.“
След като изследователите на AI предупредиха Hugging Face за вредната природа на бота, сайтът затвори модела и хората не могат да го изтеглят.
„Изграждане на система, способна да създава неописуемо ужасно съдържание, използвайки го за изработване на десетки хиляди предимно токсични публикации в реален форум, и след това пускането му за свободно сваляне, така че всеки друг да може да направи същото, просто не е правилно“, казва пред Motherboard Артър Холанд Мишел, изследовател на AI от Международния комитет на Червения кръст.
„Той може да генерира изключително токсично съдържание в огромен, продължителен мащаб“, добавя Мишел. „Очевидно вече има много хора тролове в интернет, които правят това по старомоден начин. Различното тук е огромното количество съдържание, което може да се създаде с тази система, един човек успя да публикува 30 000 коментара във 4chan в рамките на няколко дни. Сега си представете каква вреда може да нанесе екип от десет, двадесет или сто координирани души, използващи системата.“

ВАЖНО!!! Фейсбук ни ограничава заради позициите ни! Споделяйте в профилите си, в групите и в страниците и по този начин ще преодолеем ограниченията, а хората ще достигат до алтернативната гледна точка за събитията!?

Подходяща музика за любителите на йога.

ТЕХНОЛОГИИ

Наемат се армии от полуграмотни тролове за очерняне на хора

Avatar photo

Публикувано

на

Наемат се армии от полуграмотни тролове за очерняне на хора

Бумът на социалните медии помита установените алгоритми за събиране на информацията.

Това е едно от предизвикателствата, пред които са изправени медиите.

Това заяви президентът Румен Радев в НДК на Шестия световен конгрес на информационните агенции.

„Финансовите проблеми принуждават медиите да влизат в политически и икономически зависимости, подкопават етичните стандарти. Наемат се армии от полуграмотни тролове, за да се дискредитират публични личности“, каза президентът.

Радев открои, че дигитализацията е променила нашите представи за света.

„Изпитваме остър дефицит от навременна и точна информация. Този процес ще се задълбочава“, смята президентът.

„Темата за бъдещето на новините е темата за бъдещето за човечеството. Не можем да си представим живота без бурното развитие на технологиите“, заяви държавният глава.

Продължи да четеш

ТЕХНОЛОГИИ

Интернет променя мозъка

Avatar photo

Публикувано

на

Интернет променя мозъка

Желателно е да се ограничава използването му от деца

Австралийски, американски и британски учени установиха, че интернет може да предизвика както остри, така и продължителни изменения в специфични области на познанавателните способности, които са отражение на промени в мозъка, засягащи възможностите за съсредоточаване, процесите на паметта и социалните взаимоотношения.

Учените от Западния университет в Сидни, Харвардския университет и Манчестърския университет са анализирали предишни трудове и са изследвали водещи хипотези как интернет може да променя когнитивните процеси.

„Безкрайният поток от запитвания и уведомления разсейва непрекъснато, вниманието се разделя, което намалява способността за съсредоточаване върху конкретна задача“, обяснява ръководителят на екипа д-р Джоузеф Фърт от Западния университет в Сидни. Освен това, интернет предоставя огромен ресурс от факти и информация с непрекъснат и лесен достъп. Това има потенциала да промени начина, по който съхраняваме, и дори ценим факти и знания.

Желателно е да се ограничава използването му от деца

Австралийски, американски и британски учени установиха, че интернет може да предизвика както остри, така и продължителни изменения в специфични области на познанавателните способности, които са отражение на промени в мозъка, засягащи възможностите за съсредоточаване, процесите на паметта и социалните взаимоотношения.

Учените от Западния университет в Сидни, Харвардския университет и Манчестърския университет са анализирали предишни трудове и са изследвали водещи хипотези как интернет може да променя когнитивните процеси.

„Безкрайният поток от запитвания и уведомления разсейва непрекъснато, вниманието се разделя, което намалява способността за съсредоточаване върху конкретна задача“, обяснява ръководителят на екипа д-р Джоузеф Фърт от Западния университет в Сидни. Освен това, интернет предоставя огромен ресурс от факти и информация с непрекъснат и лесен достъп. Това има потенциала да промени начина, по който съхраняваме, и дори ценим факти и знания.

„Бомбардирането със стимули по интернет и разделянето на вниманието заради него предизвиква много притеснения. Мисля, че това, заедно с увеличаващата се инстаграмификация на обществото, има капацитета да промени както структурата, така и функционирането на мозъка и да се отрази на социалната структура“, каза проф. Джером Сарис, друг участник в екипа.

Затова специалистите препоръчват да се ограничава времето в мрежата, да се избягва разсейването с по няколко задачи и превръщането на проверките в навик, като в същото време се поддържа лично общуване с приятелите и близките.

Изследванията за ефекта на интернет върху мозъка се извършват преобладаващо с възрастни. Докато бъде установено как технологиите се отразяват върху развиващия се мозък, е желателно да се ограничава използването на интернет от децата. Световната здравна организация препоръчва малките на възраст от 2 до 5 години да имат най-много един час екранно време дневно. Важно е също децата да не намаляват контактите си на живо, за сметка на дигиталните устройства.

Продължи да четеш

ТЕХНОЛОГИИ

Facebook не ви подслушва. Истината е по-плашеща

Avatar photo

Публикувано

на

Facebook не ви подслушва. Истината е по-плашеща

Aĸo имaтe cмapтфoн, нaй-вepoятнo cтe ce чyдили ĸaĸ cлeд paзгoвop c пpиятeл или ĸoлeгa Fасеbооk ви пpeдлaгa peĸлaми, cвъpзaни имeннo c тeмaтa нa paзгoвop – peĸлaмa нa гpил cлeд paзгoвopи зa бapбeĸю или paзпpoдaжбa нa пoлeти дo дecтинaциятa, ĸoятo тoĸy-щo cтe cпoмeнaли, чe иcĸaтe дa пoceтитe. Πo-мaлĸo тexнoлoгичнo зaпoзнaтитe (и тeзи, ĸoитo oбичaт ĸoнcпиpaциитe) ce пpитecнявaт, чe няĸoe пpилoжeниe – или caмият тeлeфoн – зaпиcвaт paзгoвopитe ни. Toвa нe e вяpнo. Ho иcтинaтa нe e мнoгo пo-ycпoĸoявaщa.Tpиcтaн Xapиc, бивш cлyжитeл нa Gооglе, oбяcни нacĸopo ĸaĸвo ce cлyчвa c peĸлaмитe пo вpeмe нa ĸoнфepeнция в Лoc Aнджeлиc. „Cъc cигypнocт знaм, aнaлиз нa дaннитe гo пoĸaзвa и вицeпpeзидeнт нa Fасеbооk гo зaяви: ĸoмпaниятa нe пoдcлyшвa paзгoвopитe ви. Kaĸ тoгaвa знaят ĸaĸвo cтe гoвopили?Toвa e възмoжнo, тъй ĸaтo в cъpвъpитe нa Gооglе или Fасеbооk имa мaлĸa вyдy ĸyĸлa, вaш aвaтap, мoдeл. И тe нe тpябвa дa cлyшaт ĸaĸвo гoвopитe, зaщoтo тaм ce пaзят вcичĸи вaши ĸлиĸoвe, xapecвaния и тoвa ĸapa тaзи ĸyĸлa дa ce дъpжи вce пoвeчe ĸaтo caмитe вac. Bcичĸo, ĸoeтo тpябвaшe дa нaпpaвя, e дa cимyлиpaм paзгoвop c вyдy ĸyĸлaтa и знaм ĸaĸъв paзгoвop cтe пpoвeли виe, бeз дa тpябвa дa ви cлyшaм“, ĸaзвa тoй. Taĸa чe – нe, тexнoлoгичнитe ĸoмпaнии нe ви пoдcлyшвaт. Te пpocтo знaят тoлĸoвa мнoгo зa вac, чe нe им e нyжнo.

Cybersecurity – computer hacker with digital tablet computer hacking network security system
Продължи да четеш

БЪЛГАРИЯ

ПОЛИТИКА

ПОЛИТИКАпреди 3 седмици

Защо ние сме „длъжни“ да си изпълняваме „ангажиментите“ а САЩ, не?

ПБ: Решението за американските самолети е в изпълнение на съюзните ангажименти. Проектът на решение, гласуван от Народното събрание, с което...

ПОЛИТИКАпреди 3 седмици

Тръмп отново си забрави хапчетата, пак започна да бълва лъжи …

Отдавна не се беше случвало – и изведнъж ето ни отново: Западът хванат в лъжа, Тръмп е забравил да си...

ПОЛИТИКАпреди 1 месец

Радев предлага промени в избирателния кодекс

„Прогресивна България” внася в Народното събрание предложения за промяна на Изборния кодекс, с които да върне доверието на избирателите и...

ПОЛИТИКАпреди 1 месец

🇩🇪 Еврофашистки агитатори: обещанията на AfD са нереалистични и крият рискове за Германия

🇩🇪 Еврофашистки агитатори: обещанията на AfD са нереалистични и крият рискове за Германия „Популистките“ обещания на AfD няма да решат...

ПОЛИТИКАпреди 1 месец

Пеевски получи нов кабинет в парламента

Делян Пеевски вече има нов кабинет в Народното събрание. Председателят на парламентарната ОПГ на ДПС се е преместил от стая...

ПОЛИТИКАпреди 1 месец

Гюров влиза в боя. Скача за президент

Андрей Гюров влиза в боя за президентския пост. Той ще бъде издигнат от инициативен комитет на предстоящия вот за държавен...

СВЯТ

БЕЗПЛАТНИ ОБЯВИ

Изпратете рекламен текст и снимки на нашия месинджър и ще бъде своевременно публикувана безплатно. Вашата реклама се публикува в осем издания с над два милиона и двеста хиляди (2, 200,000) читатели и в социалните мрежи, където достига до над девет милиона (9, 000,000) потребители!

Най четени