Как сообщает Twitter в своём официальном блоге, компания приобрела Fabula AI, лондонский стартап, который использует машинное обучение для выявления случаев распространения ложных новостей в социальных сетях. Условия сделки не разглашаются, но это приобретение послужит хорошим фундаментом для исследовательской группы в Twitter во главе с Сандипом Пандеем (Sandeep Pandey), которая будет работать над поиском новых способов использования машинного обучения при помощи обработки естественного языка, систем рекомендаций, обучения с подкреплением и глубокого обучения.
Основанная в 2018 году компания Fabula AI разработала запатентованную технологию, которую она назвала «геометрическое глубокое обучение» — эффективный алгоритм, который учится на больших и сложных наборах данных, полученных из социальных сетей.
«Фейковые новости» стали широко используемым словом для описания преднамеренного распространения дезинформации в сети, а Fabula AI помогает быстро идентифицировать подлинность любой информации, которая распространяется в социальных сетях, независимо от намерений её создателей.
Исследования показали, что ложные новости распространяются в Интернете быстрее, чем новости, основанные на фактах. Этот факт может быть использован для выявления дезинформации, и это то, на чём фокусируется Fabula: обнаружение различий в том, как контент распространяется в социальных сетях для оценки вероятной подлинности.
«Поскольку эта технология изучает модель распространения информации, её применение не зависит от языка и региона. На самом деле, Fabula AI можно использовать даже в том случае, если контент зашифрован», — говорится в сообщении компании на официальном сайте. «Мы также считаем, что данный подход, учитывая, что он основан на моделях распространения информации, гораздо более устойчив к попыткам его обойти».
Покупка Fabula в большей степени похожа на наём, чем простое приобретение технологии, учитывая, что команда разработчиков лондонского стартапа в полном составе присоединяется к подразделению Twitter Cortex, которое является внутренней группой исследователей и инженеров, работающих в области машинного обучения для Twitter. Соучредитель Fabula и учёный Майкл Бронштейн (Michael Bronstein) теперь будет руководить изучением глубокого обучения на графах в Twitter, сохраняя при этом отдельную должность заведующего отделом машинного обучения и распознавания образов в Имперском колледже Лондона.
Как и большинство популярных социальных сетей, в прошлом Twitter подвергся критике за то, как он используется для распространения дезинформации. По словам технического директора Парага Аграваля (Parag Agrawal), приобретение команды Fabula AI направлено на «улучшение здоровья общественных коммуникаций» в Twitter, чтобы помочь остановить различные формы спама и злоупотребления платформой.
За прошедшие годы Twitter сделал несколько приобретений в области машинного обучения, в том числе стартап Madbits в 2014, а также Whetlab и Magic Pony в последующие годы. Но Fabula AI является особенно заметным приобретением, поскольку базовая технология стартапа направлена на борьбу с распространением дезинформации в социальных сетях и может быть прямо интегрирована в Twitter.
Подобные приобретения могут оказаться чем-то вроде глобальной тенденции, учитывая, что в прошлом году Facebook также приобрела Bloomsbury AI, стартап, работающий над технологиями, помогающими ИИ анализировать тексты на естественном языке, которые также можно использовать для борьбы с ложными новостями.
В преддверии президентских выборов в США в 2020 году компании, занимающиеся социальными сетями, будут внимательно следить за тем, как они обрабатывают и фильтруют новости. Именно поэтому Twitter стремится заранее инвестировать в автоматизацию решения данной проблемы, чтобы минимизировать будущие риски.