In September last year, Prime Minister Edi Rama attracted the attention of international media with the appointment to his cabinet of "Diella" - a virtual chatbot integrated until then into the e-Albania platform of digital government services.
According to him, "Diella" would play the role of Minister of State for Artificial Intelligence with a specific task; freeing public tenders from corruption.
But while the sensation has faded a year later, her specific role still remains unclear.
At the Public Procurement Agency, the institution where Artificial Intelligence is expected to be tested, the work still appears to be in the preparatory phase.
“There is a project to develop an AI procurement system, but it is still in process,” said Reida Kashta, director of this agency, when asked if the agency had started using Artificial Intelligence in public procurement.
According to her, "the drafting of the terms of reference (ToR) has just been completed", the document that sets out the technical criteria for opening the tender that will contract the company responsible for building the system.
The public procurement system has been considered for years as one of the sectors most exposed to corruption in Albania. SPAK investigations have uncovered in several cases tender manipulation schemes, where the winners were predetermined before the procedures were carried out, while contracts for the construction of roads, incinerators or other public investments have become the subject of investigation for suspicions of favoring economic operators and violation of competition rules.
The government's ambition to integrate Artificial Intelligence into this sector is viewed with skepticism by the opposition and public policy experts due to the security risks it poses, the lack of human capacity, and legal uncertainties.
Democratic Party MP Klevis Balliu told BIRN that the use of AI can serve as an auxiliary tool for the administration, but cannot replace the legal responsibility of institutions or guarantee the fight against corruption on its own.
According to him, without a clear constitutional and legal basis, the establishment of a "virtual ministry" creates uncertainty over responsibility for decision-making, especially in a sensitive sector like public procurement.
“Diella nuk e zgjidh korrupsionin. Përkundrazi, ngre një pyetje themelore: kush mban përgjegjësi për vendimet që ndikon një sistem që nuk ka status të përcaktuar ligjërisht?”, tha Balliu.
Sipas tij, një sistem virtual mund të ndihmojë në rritjen e efikasitetit dhe identifikimin e parregullsive, por “nuk mund të zëvendësojë transparencën, kontrollin dhe përgjegjësinë njerëzore”.
Edhe ekspertët e politikave publike e shohin me shqetësim përdorimin e Inteligjencës Artificiale në prokurime pa pasur një kuadër të plotë ligjor, institucional dhe teknik.
Alba Brojka, eksperte e pavarur për politikat digjitale, thotë se Inteligjenca Artificiale nuk mund të trajtohet si një “zgjidhje me shkop magjik” për probleme komplekse si korrupsioni, por vetëm si një mjet për rritjen e eficiencës dhe automatizimin e proceseve administrative.
“Është njëlloj si thika, e cila mund të përdoret për të prerë bukë ose sulmuar njerëz. Aq më tepër që sipas parimit të UNESCO-s mbi përdorimin etik te IA, vendimmarrja i takon ekspertit/njeriut në fund dhe jo teknologjisë,” tha Brojka, duke i cilësuar fjalimet politike për luftën kundër korrupsionit si të pambështetura.
Në këtë kontekst, ajo e sheh përdorimin e IA si “një justifikim për një problematikë disavjeçare”, pa rregulluar më parë ‘hendekun ligjor dhe kapacitetet institucionale.
Edhe për Aranita Brahaj, drejtuese e Institutit Shqiptar të Shkencave (AIS), përdorimi i IA-së në prokurime nuk mund të shihet si një zgjidhje e problemeve me tenderat pa konsoliduar bazën ligjore dhe përgatitjen e një metodologjie të re për të monitoruar aplikimin e këtyre sistemeve dhe eficensën e tyre
“Shqipëria ende nuk ka kuadër nënligjor të plotësuar dhe, mbi të gjitha, ky proces vjen në një moment ku kontraktimi publik po shfaq problematika të theksuara,” tha Brahaj.
Sfida të shumëfishta
Në funksion të ambicies për futjen e sistemeve dixhitale në politikat publike, qeveria ndryshoi në 2024 ligjin për “Prokurimin publik” për të përfshirë dispozita që mundësojnë përdorimin e IA në proceset e prokurimit.
Sistemet e teknologjisë së avancuar parashikohet të përdoren kryesisht për hartimin e kërkesave në fazën para-tenderuese, mbështetjen e sistemit dinamik të blerjes dhe ankandeve digjitale, funksionimin e Sistemit Digjital të Ankesave dhe monitorimin e zbatimit të kontratave.
Drejtoresha e APP-së, Kashta, thotë se ky ligj është baza ligjore për përdorimin e AI në procesin e prokurimit.
Por ekspertët besojnë se këto dispozita ligjore nuk krijojnë një bazë të plotë, që i përgjigjet të gjitha sfidave që ka përdorimi i teknologjive dixhitale, ndërsa mbetet ende pa u miratuar një strategji e qeverisë për përdorimin e IA dhe një ligj i ri, i cili është ende në fazën e konsultimit.
"These key horizontal acts, beyond sectoral legislation, should be in force and also, the institutions defined in the draft law on AI should have clear competencies and implementation capacities, so that we can effectively start implementing AI in public procurement," says Brojka.
According to her, this would guarantee control mechanisms, independent monitoring, licensing and registration of AI systems according to the categorizations that the law defines, auditing of algorithms, as well as effective mechanisms to denounce violations of rights.
But even the adoption of the new law does not solve the security issues associated with the implementation of AI systems, as according to Brojka, institutional capacities for data protection are lacking.
"We are faced with a lack of capacity from the Data Protection Commissioner to monitor private, public actors or different platforms, and it would be an even greater challenge to ask the same institution to monitor data for actors using AI, as this is not realistic," she added.
Brojka speaks of "multiple challenges" in applying AI systems in public policies and appeals for the application of AI to go hand in hand with the accountability and transparency of institutions.
She identifies as fundamental challenges the lack of an analysis that defines the concrete problems that the technology should solve, the quality of the data and the capacities of the PPA to understand, train and monitor the models. She also highlights the need for clear methodologies of responsible use and auditing, underlining that, despite the assistance of AI, the responsibility for the final decision-making in procurement must remain with humans.
"All of these are challenges that remain to be addressed by the PPA, and it seems that the institutions do not yet fully understand this preparatory cycle, but rather are driven by a political narrative, which is far from the conditions that need to be met for a responsible use of AI," Brojka emphasized.
Brahaj also warns that implementation will take time and requires monitoring. Equally important, she says, is how the evaluation, qualification and risk detection algorithm will be applied in tendering and how ready the business is to compete and appeal under AI application conditions.
Also, Brahaj adds, internal audit and the Albanian Supreme Audit Institution as an external auditor will need to develop a new methodology.
"Otherwise, this will remain a failed reform, where Albanian institutions will simply create a set of problems and defects that will serve as a 'laboratory' to teach others," Brahaj concluded. /Taken from Reporter.al
