{"id":2175,"url":"\/distributions\/2175\/click?bit=1&hash=803b6e1bcbd9dfc4ba9456fda887a878c80d24df8d3a575913b14876e18923a5","title":"TJ \u0437\u0430\u043a\u0440\u043e\u0435\u0442\u0441\u044f 10 \u0441\u0435\u043d\u0442\u044f\u0431\u0440\u044f \u2014\u00a0\u043f\u0440\u043e\u0447\u0438\u0442\u0430\u0439\u0442\u0435 \u0430\u043d\u043e\u043d\u0441 \u0441 \u0434\u0435\u0442\u0430\u043b\u044f\u043c\u0438","buttonText":"\u0427\u0438\u0442\u0430\u0442\u044c","imageUuid":"d1d355d8-93a3-5140-aeae-14b03046b760","isPaidAndBannersEnabled":false}

Почему краудсорсить разбор медиаархива «фабрики троллей» неинтересно Статьи редакции

Или есть желающие покопаться в 300 ГБ твитов, картинок и видео?

Одна из фотографий из архива «Агентства интернет-исследований»

Twitter сегодня опубликовал здоровенный архив всего контента, который, как считает компания, связан или может быть связан со вмешательством в президентские выборы США в 2016 году.

В архиве 10 миллионов твитов, а также 2 миллиона картинок, гифок, видео и прямых трансляций в «Перископе» от 3841 аккаунтов «Агентства интернет-исследований» (Ольгино) и ещё 770 аккаунтов, предположительно созданных в Иране. Самые ранние были опубликованы ещё в 2009 году.

В архиве медиафайлов «Агентства интернет-исследований» 296 ГБ данных. Они разбиты на почти 300 ZIP-архивов разного размера: любой может скачать понравившийся и начать разбирать по частям (здесь можно найти все остальные ссылки).

Но картинки и видео разбирать не очень интересно — без привязки к конкретным твитам понять, что именно ими проиллюстрировали, невозможно, за исключением очевидно сатирических демотиваторов и скриншотов новостей. Ниже — несколько примеров из того, что я успел посмотреть из архива ira_tweet_media_hashed_1.zip: удачные фото Путина, неудачные фото Обамы и Порошенко, снимки с Лавровым и Шуваловым, очень много российских пейзажей, редкие сюжеты на тему США.

А вот сам текст твитов находится в CSV-документе объёмом 5,5 ГБ (после разархивирования). Не стоит открывать его при помощи Excel — работать с ним будет невозможно. Для macOS есть CSview, рекомендации по приложениям для Windows можно поискать на Quora.

Первая проблема в том, что изучать таким образом твиты совершенно неудобно — они только текстовые (хотя по огромному числу колонок с параметрами можно примерно понять, какую информацию о твитах хранит Twitter). Хотя в большинстве случаев текст сопровождается картинкой, все представленные в архиве микроблоги давно заблокированы, и нельзя просто перейти по ссылке, чтобы посмотреть, что там было.

Вторая проблема: в медиаархиве не указано, какому твиту соответствует какое изображение или видео. Названия папок, в которых лежат медиафайлы, это хэши, но неясно, хэши от чего. Ссылки на фотографии в Твиттере по адресу-сокращалке t.co/XXXX тоже не открыть: аккаунты заблокированы, и все ассоциированные с ними вложения тоже.

Третья проблема — в публичном архиве, который может скачать любой пользователь, большинство названий аккаунтов захэшированы. Twitter допускает вероятность того, что в базу попали и аккаунты, которые на самом деле не имеют отношения к влиянию на выборы — и отделил их планкой в 5 тысяч подписчиков и меньше.

Зато, например, есть отдельное поле [urls] — прикреплённые к твиту ссылки хранятся отдельно: его можно изучить подробнее и, например, составить статистику наиболее популярных изданий, на которые твитили ссылки аккаунты из этой базы.

По моим быстрым наблюдениям, большинство контента «Агентства интернет-исследований» в архиве связано с пропагандой, ориентированной на российскую аудиторию, и касается периода после присоединения Крыма. Часто встречаются в базе ссылки на РИА «Федеральное агентство новостей» и уже заблокированные блоги в ЖЖ. Твитов на английском языке не так много — по крайней мере, визуально.

Если вы всё же захотите поучаствовать в разборе архива и вам удастся что-то найти, то публикуйте находки в комментариях. Только для упорядочивания информации давайте договоримся так: при публикации фото, скриншота или видео пишите, из какого архива оно взято (например, из №145), чтобы другие могли выбрать ещё не изученный архив (при помощи поиска по комментариям в браузере).

0
25 комментариев
Написать комментарий...
Бесконечный файл

Комментарий недоступен

Ответить
Развернуть ветку
Татарский крюк

Больной ублюдок

Ответить
Развернуть ветку
Многий танк88

Загрузить все это в НейроИлюхера

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Технологический чайник

Комментарий недоступен

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Глупый Филипп

Комментарий недоступен

Ответить
Развернуть ветку
Демократический спрей

Можно ещё Чеботарь подключить, но это сеть ещё в зародыше, может сломаться

Ответить
Развернуть ветку
Здешний американец

Никита, большие CSV-файлы открываются в Питоне или в RStudio. Там и анализируются. Вручную с этим массивом действительно делать нечего.

Ответить
Развернуть ветку
Минувший яд
Или есть желающие покопаться в 300 ГБ твитов, картинок и видео?

Зависит от видео

Ответить
Развернуть ветку
Классный Никита

Какие-нибудь дата саентисты поиграются я думаю
Данные то ценные, можно научить нейросетку бота определять например

Ответить
Развернуть ветку
Престижный Кирилл

Так там же живые люди тексты эти писали и картинки искали.

Ответить
Развернуть ветку
Соседний Влад

Тогда можно создать нейро Деда

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Сильный меч

Комментарий недоступен

Ответить
Развернуть ветку
Бесконечный файл

Комментарий недоступен

Ответить
Развернуть ветку
Бесконечный файл

Комментарий недоступен

Ответить
Развернуть ветку
Бесконечный файл

Комментарий недоступен

Ответить
Развернуть ветку
Соседний холод

Только зеркально отражать не забывайте. ;-)

Ответить
Развернуть ветку
Бесконечный файл

Комментарий недоступен

Ответить
Развернуть ветку
Московский мангал

Удивлён, что взрослых гетеросексуальных мужчин тянет заниматься краудсорсингом.

Ответить
Развернуть ветку
Северный пёс_анон

...а не брутфорсом

Ответить
Развернуть ветку
Технологический чайник

Комментарий недоступен

Ответить
Развернуть ветку
Порядочный Женя

Больших Экселей

Ответить
Развернуть ветку
Сельскохозяйственный парфюмер

каким боком тут Эксель?
CSV это текстовый файл в котором значения раздельные запятыми, можешь хоть в блокноте, хоть в Word открыть.

Ответить
Развернуть ветку
Федеральный шар
связан или может быть связан со вмешательством в президентские выборы США в 2016 году
Ответить
Развернуть ветку
Модный дым

Комментарий недоступен

Ответить
Развернуть ветку
Конкретный цвет

нашел клад (273)

Ответить
Развернуть ветку
Читать все 25 комментариев
null