Решение на EK за създаване на Европейската служба по изкуствен интелект

от Нели Огнянова
лиценз CC BY

Комисията внесе предложение за регламент за определяне на хармонизирани правила относно изкуствения интелект (Законодателен акт за изкуствения интелект) и за изменение на някои законодателни актове на Съюза с цел насърчаване на разработването, използването и навлизането на вътрешния пазар на изкуствен интелект, който същевременно осигурява високо равнище на защита на обществените интереси, като здравето и безопасността и защитата на основните права, признати и защитени от законодателството на Съюза. В този контекст следва да бъдат положени основите на единна система за управление на изкуствения интелект в Съюза, като се създаде структура, която да упражнява надзор върху развитието на моделите на изкуствен интелект.

Създава се Европейска служба по изкуствен интелект.

Службата е част от административната структура на генерална дирекция „Съобщителни мрежи, съдържание и технологии“.

Решение от 24 януари 2024

ЕСПЧ: платформи, криптиране, права на потребителите

от Нели Огнянова
лиценз CC BY

През 2017 г. Федералната служба за сигурност на Русия (FSS) започва да изисква от Telegram да споделя с властите криптирани съобщения на потребителите, за целите на борбата с тероризма.

Telegram отказва да изпълни заповед на FSS, защото „всяко разкриване на ключове за криптиране“ би засегнало „поверителност на кореспонденцията на всички потребители на Telegram“, заради което компанията е глобена и един съд дори е наредил приложението да бъде блокирано в Русия.

Руски потребител на Telegram твърди, че искането на FSS нарушава правата му на личен живот и неприкосновеност на кореспонденцията, както и правата на всички потребители на Telegram – и в последна сметка се обръща към ЕСПЧ. Делото Подчасов срещу Русия оспорва руския закон, задължаващ доставчиците на телекомуникационни услуги да съхраняват съдържание и комуникационни данни за определени периоди от време, както и заповед за разкриване на информация от 2017 г. от Руската федерална служба за сигурност, изискваща от компанията Telegram да разкрива техническа информация, която улеснява „декодирането на комуникациите“.

Според държавата „твърденията, че службите за сигурност са имали достъп до комуникациите на всички потребители“ са „необосновани“, тъй като искането им се отнася само до шестима потребители на Telegram. Освен това персоналът бил дискретен. Правителството твърди освен това, че  терористична атака  е била предотвратена по този начин, след като правителството открило, че атаката е била координирана чрез чатове в Telegram.

Експертите: не може да има “задна врата” за правителствата, без да засегнат всички потребители. Мерките, изискващи декодиране на криптирани комуникации, не могат да бъдат ограничени до това, което е необходимо в едно демократично общество, и неизбежно компрометират целостта и сигурността на комуникациите за милиарди потребители по целия свят.Дори ако правителствата никога не са използвали опцията за масово наблюдение на граждани, самата възможност има  смразяващ ефект. Мерки, които се стремят да улеснят декодирането на криптирани комуникации, са сериозна намеса в правото на зачитане на личния живот и кореспонденцията . Налагането на задължения на доставчиците на телекомуникационни услуги активно да променят софтуера, който предлагат на потребителите, чрез вмъкване на “задни врати”, които значително влошават сигурността, нарушава задължението на държавите да защитават правото на зачитане на личния живот и кореспонденция. Освен това “задните врати”, създадени за правоприлагането, „могат лесно да бъдат експлоатирани от терористи, кибертерористи или други престъпници“, потенциално излагайки потребителите на повече вреди, отколкото са ползите с цел подпомагане на разследванията. Към това се добавя, че “независимите прегледи, извършени в Съединените щати”, са установили, че “масовото наблюдение не изглежда да е допринесло за предотвратяването на терористични атаки, противно на по-ранни твърдения, направени от висши служители на разузнаването”.

ЕСПЧ приема, че има нарушение на член 8 ЕКПЧ, право на личен живот: „Поверителността на комуникациите е съществен елемент от правото на зачитане на личния живот и кореспонденцията“, се казва в решението на ЕСПЧ. По този начин изискването съобщенията да бъдат дешифрирани от правоприлагащите органи „не може да се приеме за необходимо в едно демократично общество“.

Становище на Института за информационно общество

Решението Podchasov v Russia

В очакване на 2024 Special 301

от Нели Огнянова
лиценз CC BY

Министърът на икономиката в телевизионни изяви се позовава на 2023 Special 301 .

Това е доклад в изпълнение на раздел 301 на Търговския кодекс на САЩ, който всяка година през пролетта, обикновено през април, очертава състоянието на защитата на интелектуалната собственост по държави.

Държавите се разделят – по този критерий – в зелена, жълта (Watch List) и червена зона (Priority Watch List). През 2023 България е между държавите в Watch List и това е проблем. По този случай миналата година се внасяха промени в закони.

В момента във Вашингтон се провеждат изслушвания с оглед подготовката на новия доклад.

ЕС: Пакет мерки за защита на демокрацията

от Нели Огнянова
лиценз CC BY

Демокрацията в ЕС е изправена пред сериозни предизвикателства — засилващ се екстремизъм, намеса в избори, разпространяване на манипулативна информация и заплахи срещу журналисти.

Гражданите следва да могат да правят избора си на гласоподаватели в публично пространство, в което свободно могат да бъдат изразявани различни гледни точки. Свободните медии, академичните среди и гражданското общество трябва да играят своята роля за стимулиране на открит дебат, без намеса, независимо дали тя е външна или вътрешна.

Ето защо през 2020 г. ЕС представи Плана за действие за европейската демокрация и за да допълни и задълбочи това действие, през декември 2023 г. Комисията представи пакета за защита на демокрацията. Той съдържа:

Документите

Как се пише: полигонна, полигонно, полигонни или полигона, полигоно, полигони?

от Павлина Върбанова
лиценз CC BY-NC-ND
Правилно е да се пише с двойно н – полигонна, полигонно, полигонни, полигонният, полигонния. За думата е в сила следното правило: ако прилагателното име в м.р. ед.ч. завършва на -нен (полигонен) и в останалите форми гласната е изпада от наставката -ен, в тях се пише двойно н. Ръководител на полигонната подготовка е майор Димитров. Изграждането […]

Как се пише: превес или превест?

от Павлина Върбанова
лиценз CC BY-NC-ND
Правилно е да се пише превес. Кой има превес в мачовете между Джокович и Надал? Партийните пристрастия отново взеха превес над рационалните аргументи.

БиБиСи в числа

от Нели Огнянова
лиценз CC BY

Таксата на домакинство, което осигурява по-голямата част от финансирането на БиБиСи, ще се повиши до £169,50 ($213) от £159, считано от април 2024 г., съобщава британското Министерство на културата, медиите и спорта. Това е по-малко от очаквания ръст.

През 2022 правителството обяви, че лицензионната такса ще бъде напълно премахната през 2027 г., като следват две години на замразяване на таксата от £159 за гледане на телевизия на живо и достъп до услугите на iPlayer, преди леко да се покачи през следващите три години – което именно се наблюдава сега. Това ще бъде краят на сегашния модел на финансиране от лицензионни такси. “БиБиСи ще трябва да преговаря с правителството за изцяло нов модел на финансиране, когато окончателната сделка за финансиране на лицензионни такси изтече през 2027 г. – с опции за абонамент, частична приватизация или директно правителствено финансиране.”, писа Тhe Guardian. Медията вече се подготвя за края на лицензионната такса с предложения, включващи финансиране от общото данъчно облагане – въпреки че това може да подкопае неговата редакционна независимост. Признава се, че е трудно превръщането на обществената медия в платена абонаментна услуга, подобна на Netflix.

В БиБиСИ работят повече от 17 000 души, като обществената медия разполага с 5 244 журналисти, 186 наети със специалност връзки с обществеността и 433 водещи различни предавания, според информация, получена по Закона за достъп до информация  The Sunday Times.

 

ЕС: Проект на насоки за VLOP/VLOSE за защита на демократичния изборен процес

от Нели Огнянова
лиценз CC BY

Публикувано е съобщение за консултация с едномесечен срок – от 8 февруари до 7 март 2024 – за Насоки съгласно член 35 DSA, които  да представят на много големите онлайн платформи и търсачки най-добри практики и възможни мерки за смекчаване на системните рискове на техните платформи, които могат да застрашат демократичните изборни процеси. Към съобщението е приложен и проект за Насоки/DSA Election Guidelines.

Съгласно член 35 DSA Комисията заедно с координаторите на цифровите услуги на държавите може да издаде Насоки във връзка със специфични рискове,  да представи най-добрите практики и да препоръча възможни мерки за смекчаване на рисковете, в случая – в навечерието на изборите за ЕП.

Технологиите като „пета власт“

от Божидар Божанов
лиценз CC BY

Трите власти – законодателна, изпълнителна и съдебна – са разделени с цел взаимен контрол и предотвратяване на концентрация на власт. Традиционно към тях се добавя и т.нар. „четвъртна власт“ – медиите, които осигуряват допълнителен контрол върху трите власти чрез прозрачността, която осигуряват. Затова между властите има различни механизми – законоустановени или имплицитни – за проверки и баланси (checks and balances).

Поради все по-активното навлизане на технологиите в държавното управление, моята теза е, че те плавно се превръщат в „пета власт“. Във времето много елементи на обществения живот са били обявявани за „пета власт“, така че не твърдя, че това е единственият допълнителен механизъм за проверки и баланси, отвъд утвърдените 3+1 власти, но смятам, че ще става все по-централен и трябва да му обърнем специално внимание.

Общоприета теза е, че „властта корумпира“. Макар това да е опростена теза, както е разгледано в литературата, в сърцевината си тя е вярна – позициите на власт, върху които няма достатъчно външен контрол, създават корупционни практики – не само свързани със злоупотреби със средства, но и по-общо със злоупотреби с власт. Механизмите за възпиране на корупцията са много – съдебен контрол на актове, наказателна отговорност, публичност, парламентарен контрол и др.

Технологиите са много силен механизъм за възпиране на корупционните практики. В малко по-техническа публикация съм изредил множество начини, по които технологиите могат да бъдат използвани за превенция на корупцията. Това включва:

  • проследимост на действията и техните автори, и то по начин, който не позволява да бъдат подменяни;
  • невъзможност за промяна и антидатиране на документи
  • защита на данните от неоторизиран достъп (т.е. без „само да погледна тука една папка“)
  • прозрачност и публичност на данни и докименти, с което да се подхранят разследванията на четвъртата власт
  • истинско случайно разпределени на преписки, проверки, дела – много експерименти показват, че използването на принципа на случайност намалява корупционния риск
  • автоматична валидация на данните, което премахва човешкия фактор и възможността за „затваряне на очите“ за някои пропуски
  • автоматизиране на максимално много дейности, което намалява дискрецията на овластените лица
  • автоматизиран анализ на риска на база на натрупаните данни, така че да бъдат откривани злоупотреби проактивно

Но преди да бъда обвинен в техно-утопизъм – че виждам технологично решение на всеки проблем – ще отбележка и негативната страна. Както всяка власт, и петата може да е неефективна, корумпирана и да работи в нечий интерес. Както изпълнителната може да се корумпира, както съдебната може да решава дела не само в съответствие със закона, както законодателната може да е прокарва частни интереси и както медиите могат да бъдат необективни и дори „бухалки“, така и технологиите могат да бъдат инструмент за корупция.

И трябва сериозно усилие, за да не бъде така. Институционално и технологично усилие, за да бъде проследимостта реална, а не „наши хора“ да могат да си зачистват следите, за да има реално случайно разпределени, а не едни административни ръководители да могат с тайни клавишни комбинации да предопределят избора, за да се публикуват максимално много данни, а не да се спестяват с оправдания „тя системата няма да издържи“.

Технологиите сами по себе си не са власт, но всички дейности около тях, са именно такава. Петата власт в момента е в ръцете на едни не особено видими хора – ИТ директори, системни администратори, администратори на бази данни, програмисти – в частни компании, в администрацията и в държавната компания Информационно обслужване. Това не е обвинение към тях и не е презумпция за злоупотреба – в мнозинството си това са честни експерти, които си вършат съвестно работата. Но отговорността е далеч по малка спрямо колективната тежест, която все повече ще имат (или „имаме“ – защото и аз продължавам да се причислявам към ИТ експертите).

Допълнителен проблем е и това, че технологиите трудно се разбира и от широката публика, и от политическата класа – както стана болезнено ясно от измислените скандали с машинното гласуване. Но те са само един пример.

Именно заради тези проблеми – че петатат власт се упражнява „между другото“, понякога неосъзнато и без политическа отчетност, трябва технологиите, използвани в държавното управление, да бъдат балансирани от останалите четири власти. Например в законите да е уредено, че не могат да се подменят данни; че има технически-гарантирано случайно разпределение; че кодът на системите е публичен, актуален и одитиран; че за достъп до определени данни не се разчита само на един човек; че чувствителни данни се съхраняват логически разделени; че се използват актуални криптографски методи за защита на конфиденциалността и целостта на данните. Нужно е в съдебната власт (и съдът, и органите на досъдебното производство) да разполага с по-широк набор от експерти по технологични теми. Нужно е изпълнителната власт да разработи механизми за повече прозрачност и проследимост в управлението на информационните и комуникационни технологии.

Петата власт – технологиите в държавното управление – е все още недостатъчно видима, но сме длъжни да говорим за нея, за да бъде използвана за предотвратяване на злоупотреби в другите власти, а не за скрито и трудно-разбираемо вмешателство в тях.

.

Материалът Технологиите като „пета власт“ е публикуван за пръв път на БЛОГодаря.

Как се пише: бъбречносъдов, бъбречно-съдов или бъбречно съдов?

от Павлина Върбанова
лиценз CC BY-NC-ND
Това прилагателно име се пише слято – бъбречносъдов, също и бъбречносъдова, бъбречносъдово, бъбречносъдови, тъй като е образувано от съчетание на прилагателно и съществително име – бъбречен съд. В лабораторията се изследва бъбречната функция: бъбречен кръвоток, гломерулна филтрация, бъбречносъдово съпротивление и др. Призивът на специалистите е всеки българин да контролира кръвното си налягане, за да се […]