Як соціальні мережі перемогли нашу здатність відрізняти правду від брехні
- Експлуатація соціальних мереж
- Створення інформаційних бульбашок
- вірусне поширення
- Вся справа в алгоритмах
- Як поширюються фальшивки
Чи здатні соціальні мережі спотворювати наше уявлення про реальність? Чому ми схильні довіряти своїм друзям навіть в тих випадках, коли вони діляться з нами посиланнями на неперевірені повідомлення, а то і на пряму дезінформацію? І як ця довірливість впливає на наші вчинки в реальному світі - наприклад, на наше рішення проголосувати за того чи іншого кандидата в президенти?
Про це розмірковує професор інформатики Філіппо Менцера, в статті , Яку опублікувало видання The Conversation. Ось переклад цієї статті.
Якщо ви, як і більшість, дізнаєтеся новини з соціальних мереж, то це означає, що паралельно ви отримуєте щоденну порцію брехні, неперевірених чуток, страшилок в дусі теорії змови, і невірно сформульованих повідомлень. Коли все це перемішано з достовірною інформацією з надійних джерел, докопатися до правди буває дуже нелегко.
Як показав аналіз даних, зібраних Колумбійським університетом в рамках програми Emergent , Яка займається вивченням чуток, дезінформація стає об'єктом вірусного поширення майже так само часто, як і надійні відомості (аналізом даних займалася команда дослідників під моїм керівництвом).
Будучи фахівцем з питань поширення дезінформації через соціальні мережі, я згоден з тим, що Google і Facebook зробили крок у вірному напрямку, спробувавши обмежити можливості новинних фальсифікаторів наживатися на рекламі. Але цей крок не зупинить політично мотивованих порушників.
Як поширювалися передвиборчі новини по хештегом #ImWithHer (за Хілларі Клінтон) і #MakeAmericaGreatAgain (за Дональда Трампа): точками позначені твіттер-акаунти, лінії між ними зображують ретвіти. Діаметр точок залежить від кількості ретвітів, вироблених аккаунтом. Червоним кольором позначені акаунти, які з високим ступенем ймовірності є ботами, блакитним - акаунти реальних користувачів
Clayton Davis
Експлуатація соціальних мереж
Років десять тому, я зі своїми колегами проводив експеримент, в ході якого ми виявили, що 72 відсотки студентів коледжів довіряли лінками, нібито отриманих від друзів, - аж до того, що вони ділилися особистими логінами на фішингових сайтах. Настільки поширена довірливість підказала і іншу форму зловмисної маніпуляції: користувачі повірять дезінформації, клікнувши на посилання, що прийшла від кого-то з мережевих контактів.
Щоб перевірити цю ідею, я створив фальшиву веб сторінку з випадковими, згенерували комп'ютером новинами в стилі жовтої преси, щось на зразок: «Знаменитість Х в ліжку зі знаменитістю Y!» Вводячи в пошуковик ім'я знаменитості, відвідувачі сайту запускали скрипт, який автоматично фабрикував замітку про цю людину. Я розмістив на сайті попередження про те, що тут вивішуються безглузді тексти і липові «факти». Я також розмістив на сторінці рекламні оголошення. В кінці місяця мені прийшов чек - гроші, зароблені на показах реклами. Вони-то і послужили доказом: фейковий новини можуть приносити гроші, попутно забруднюючи інтернет брехнею.
Фейкові новини можуть приносити гроші, попутно забруднюючи інтернет брехнею
На жаль, я був не єдиним, кому прийшла в голову така ідея. Через десять років виникла ціла індустрія з виробництва фальшивих новин і поширенню дезінформації в інтернеті. Сайти з розважальним «сміттєвим» контентом виробляють фальшивки, щоб заробляти на рекламі, в той час як сайти надлояльного політичних активістів публікують і поширюють чутки та дезінформацію в дусі теорії змови з метою вплинути на громадську думку.
Ця індустрія набирає силу завдяки тому, що сьогодні дуже легко створити бота або фальшивий акаунт у соціальних мережах, який управляється програмою, але прикидається живою людиною і завдяки цьому здатний бути впливовим. В ході дослідження ми виявили безліч фальшивих ініціативних кампаній, які прийнято позначати терміном «астротурфінг» (англ. Astroturfing - імітація громадської думки за допомогою соцмереж).
У відповідь ми розробили систему BotOrNot, яка розпізнає боти в соціальних мережах. Вона не ідеальна, але її результати досить акуратні для того, щоб розпізнати кампанії, спрямовані на агітацію на користь Brexit або проти щеплень. Використовуючи BotOrNot, наші колеги виявили, що велика частина онлайн-обговорень, присвячених недавнім виборів американського президента, була ініційована ботами.
На цій ілюстрації зображено поширення хештега # SB277, що збирає повідомлення з приводу каліфорнійського закону про вакцинацію. Точками позначені твіттер-акаунти, які розповсюджують цей хештег, лінії між ними зображують ретвіти і посилку твітів з тим же хештегом. Діаметр точок залежить від кількості ретвітів, вироблених аккаунтом. Червоним кольором позначені акаунти, які з високим ступенем ймовірності є ботами, блакитним - акаунти реальних користувачів.
Onur Varol
Створення інформаційних бульбашок
Людьми досить легко маніпулювати за допомогою дезінформації в соцмережах, оскільки цьому сприяє складне поєднання соціальних, когнітивних, економічних і поведінкових установок, поділюваних усіма нами. Деякі з них зіграли позитивну роль в ході еволюції: довіру до сигналів, що виходить від найближчого оточення, і скептицизм по відношенню до відомостей, що суперечить власного досвіду, допомогли нашим предкам навчитися уникати зубів хижаків. Але в сьогоднішньому замкнутому світі мережевого спілкування сигнали, що надходять до мене з соцмережі від прихильника теорії змови, що проживає на іншому кінці світу, заважають мені приймати зважені рішення.
«Расшарівая» повідомлення друзів і «відписуючись» про тих, чиї думки відрізняються від наших, ми опиняємося в настільки полярно орієнтованої «ехокамере», що по одному списку ваших друзів дослідники з високою точністю скажуть, хто ви - ліберал чи консерватор. Структура соціальної мережі настільки щільна, що дезінформація всередині окремої групи поширюється практично блискавично, і в той же час настільки роздрібнена, що інші групи про неї нічого не знають.
Всередині нашого «міхура» ми отримуємо тільки спеціально відібрану інформацію, яка збігається з нашими переконаннями. Такий сценарій ідеальний для підвищення рівня товариськості, але згубний для розвитку здорового скептицизму. Надмірна впевненість у своїй правоті призводить до того, що ми «расшарівать» заголовок, не читаючи самої статті.
Наша лабораторія отримала схожий урок на власному досвіді, коли напередодні проміжних виборів в Америці в 2014 році стала об'єктом злісної дезінформації. Вивчаючи активність соцмереж, ми натрапили на фальшиві повідомлення про наших дослідженнях, які поширювалися, переважно через твіттер, всередині односторонньо орієнтована «ехокамери» - великого, однорідного і політично активної спільноти. Ці люди блискавично ретвітів фальшиві повідомлення, але були вкрай скупі на спростування.
На цій схемі «ехокамер» в твіттері, фіолетові точки позначають користувачів, що поширюють неправдиві відомості про дослідницький проект Truthy. Два аккаунта, які намагалися спростувати дезінформацію, позначені помаранчевим кольором зліва.
Giovanni Luca Ciampaglia
вірусне поширення
Наше дослідження показує, що при існуючій структурі соціальних мереж і обмеженому уваги користувачів деякі меми, незалежно від їх якості, неминуче стають вірусними. Нехай навіть окремі користувачі намагаються ділитися перевіреною інформацією, соцмережа в цілому не здатна відрізнити правду від фальшивки. Цим і пояснюються всі вірусні «фейки», що гуляють по інтернету.
Про інше подбає «економіка уваги»: якщо якась тема виходить в топ, пов'язана з нею інформація починає вироблятися прискореними темпами. При цьому сфабрикувати новина, видавши її за факт, набагато дешевше, ніж добувати правдиву інформацію. Причому фабрикувати можна на будь-який смак: консерватори прочитали, що папа Римський підтримав Трампа, ліберали прочитали, що він підтримав Клінтон. А насправді він не підтримував нікого.
Вся справа в алгоритмах
Раз ми все одно не можемо переглянути всі повідомлення з інформаційної стрічки, відбір того, що ми побачимо, беруть на себе алгоритми. Алгоритми, що використовуються в сьогоднішніх соцмережах, налаштовані привласнювати високий пріоритет «чіпляють» постам - на які ми з більшою ймовірністю кликнемо, відреагуємо, якими, можливо, поділимося. Але недавні дослідження показали, що сторінки з навмисною дезінформацією отримують такий же відгук і поширюються так само широко, як і справжні новини.
Існуючі дослідження показують, що «ехокамера» здатна зробити потрапили в неї людей більш довірливими по відношенню до неперевіреними чутками. Але ми ще мало знаємо про те, чому люди по-різному реагують на конкретний «фейк»: одні діляться ним негайно, а інші спершу намагаються його перевірити.
Щоб вивчити це змагання між тими, хто бездумно «шеріт», і тими, хто перевіряє інформацію, ми змоделювали штучну соціальну мережу. Тим самим ми сподіваємося розібратися в суперечливих даних про те, що в якихось ситуаціях перевірка даних допомагає зупинити поширення фальшивого повідомлення, а в якихось - ні. Отримані нами попередні результати дозволяють припустити, що чим більше замкнуто співтовариство тих, хто вірить фальшивку, тим довше вона живе. І це відноситься не тільки до самої фальшивку, але і до соціальної мережі в цілому.
Багато хто намагається зрозуміти, що з цим робити далі. Судячи з недавньої заяви Марка Цукерберга, Facebook вже відчуває можливі рішення. А група студентів пропонує просто позначати лінки при «расшаріваніє» як «достовірні» або «недостовірні».
Якимись можливими механізмами вирішення цього завдання ми поки не обладаем.К наприклад, ми поки не можемо навчити штучний інтелект відокремлювати правду від брехні. Але ми можемо створити алгоритм, який буде привласнювати вищий рейтинг ресурсів з найкращим показником надійності.
Як поширюються фальшивки
Щоб ефективніше боротися з новинними «качками», необхідно зрозуміти шляхи їх поширення. Наприклад, якщо з'ясується, що за більшу частину «фейків» відповідальні боти, ми сконцентруємося на їх пошуку. Якщо, навпаки, вся справа в «ехокамерах», то, можливо, нам слід розробити такі алгоритми рекомендації новин, які не будуть виключати різні точки зору.
Тому наша лабораторія розробляє платформу Hoaxy, здатну простежити і візуалізувати шляху поширення неперевірених і відповідних їм надійних повідомлень в соцмережах. Ці дані, отримані з реального світу, ми завантажимо в нашу штучну соцмережа і тоді зможемо випробувати різні способи боротьби з фальшивими новинами.
Hoaxy також здатна наочно показати користувачам, як легко за допомогою інформації з мережі маніпулювати їхньою думкою - і навіть наскільки легко багато хто з нас готові ділитися фальшивими новинами. Hoaxy стане частиною пакету програм нашої Обсерваторії соціальних медіа, яка дозволяє будь-якій людині простежити за поширенням мемів через твіттер. Об'єднуючи воєдино такі програми, користувачів, які звикли перевіряти інформацію, і соцмережі, можна звести до мінімуму дублювання зусиль і підвищити взаємодопомога між ними.
Переклад з англ. Тетяни Тепер
з:
На превью - кадр із серіалу «Чорне дзеркало» (Black Mirror)
Чому ми схильні довіряти своїм друзям навіть в тих випадках, коли вони діляться з нами посиланнями на неперевірені повідомлення, а то і на пряму дезінформацію?І як ця довірливість впливає на наші вчинки в реальному світі - наприклад, на наше рішення проголосувати за того чи іншого кандидата в президенти?