Днес са изборите в Германия, а преди няколко дни излезе изследване, че X (twitter) промотира повече съдържание на Алтернатива за Германия (AfD) и на другата популистка партия BSW.
Изследването установява, че в подбраните за потребителите публикации в X, от профили, които те НЕ следват, има несъразмерно повече такива от AfD и BSW. Като особен ръст има в последните две седмици.
Мъск не крие, че подкрепя AfD, но явно, директно или индиректно, прави това и чрез платформата си X. Алгоритъмът за препоръчване на съдържание на X уж е публичен, но всъщност последно публикуваното е от 2023 г, и то без данните, с които е „захранен“ модела, т.е. на практика не е публичен.
Занимавал съм се професионално с алгоритми за препоръчване на съдържание преди 12 години, а преди 6 имах лекция, озаглавена „алгоритмична и технологична прозрачност“, в която излагам нуждата от прозрачност на алгоритмите, моделите и техните данни, вкл. за препоръчване на съдържание, както и рисковете, които произтичат от „черните кутии“, каквито са в момента.
За съжаление през 2022 г, когато бях министър, вече беше твърде късно в процеса по приемане на Акта за цифровите услуги на ЕС, за да бъдат отразени моите предложения и акът остана с твърде бланкетни текстове по отношение на алгоритмите.
А малка промяна в алгоритъма може да доведе до заливане на потребителите със съдържание, което те не са искали да видят, не следват, не очакват, но въпреки това виждат. Всяка платформа, с политически цели, може да бъде пропагандна машина. Например, ако тежестта на т.нар. суперразпространители бъде увеличена, без значение от държавата, то постоянното цитиране на AfD от страна на Мъск би промотирало съдържание дори към хора, които не следват Мъск.
Европейската комисия (ЕК) може да използва правомощията си, за да получи данни за наблюденията в изследването, но Мъск, както и преди, вероятно ще използва и това за политическа атака – вероятно ще каже как ЕК го натиска да ограничава AfD.
Не твърдя, че има намеса отвътре – тези алгоритми се „лъжат“ и чрез външна намеса, в т.ч. чрез тролски фабрики, които взаимодействат с публикациите. Но без значение дали става дума за вътрешна намеса, външна намеса, или вграден уклон към по-крайно съдържание, проблемите са налице.
А реакцията може да бъде само предварителна – ако след дадени избори има оправдание „ама те алгоритмите са лоши“, това ще звучи фалшиво в ушите на избирателите.
Алгоритмите за препоръчване на съдържание представляват системен риск, когато са непрозрачни и когато са на едно телефонно обаждане от превръщането им в геополитически инструмент. Но сме закъснели с решаването и на този проблем.
Материалът Властта на алгоритмите е публикуван за пръв път на БЛОГодаря.