Oblikovanje digitalne odgovornosti, a time i pitanje kako se odgovorno nositi s umjetnom inteligencijom (AI) , zadatak je društva u cjelini. Korištenje AI nudi mogućnosti, ali i predstavlja izazove, osobito reputacijski rizik i rizik odgovornosti društva za štetu. HT d.d. je svjestan prednosti koje nudi AI ali i izazova koje AI kao svaka nova tehnologija donosi. S usvajanjem smjernica digitalne etike o AI u DT -u, a koje utvrđuju načela i način uporabe AI nastala je potreba utvrđivanja i procjene ponašanja koja su suprotna navedenim smjernicama kako bi se mogli prevenirati negativni učinci takvih ponašanja na kompaniju ali i same zaposlenike stoga je u procjenu rizika usklađenosti uveden novi rizik „Nepoštivanje smjernica digitalne etike o AI“.
Primjeri situacija koje mogu predstavljati rizik „Nepoštivanje smjernica digitalne etike o AI“ i koji su navedeni u procjeni rizika usklađenosti;
- organizacijska jedinica ili prodajni partner HT-a koristi chatbot za doprinose društvenim medijima. Nakon kratkog vremena ovaj chatbot objavljuje rasističke doprinose i/ili lažne vijesti
- AI se koristi za projekt koji podatke o korisnicima prosljeđuje trećim stranama
- AI prikuplja i kombinira podatke kako bi donijela zaključke o pojedincima neovisno o njihovom znanju i pristanku (npr. diskriminatorne odluke u vezi sa zapošljavanjem i ugovornim ponudama)
- društvo koristi chatbot (tekstualni ili glasovni) za interakciju s korisnicima ali se tehničko rješenje ne identificira kao bot već se u komunikaciji s korisnikom predstavlja kao čovjek
- AI diskriminira određene skupine ljudi na temelju spola, dobi… (npr. u smislu ponuda za zapošljavanje i ugovora)
Primjeri pitanja na temelju koje se može utvrditi postojanje rizika:
- Postoje li u društvu projekti u kojima se koristi i/ ili razvija umjetna inteligencija?
- Mogu li ljudi biti oštećeni uporabom umjetne inteligencije (materijalna, nematerijalna šteta)?
- Mogu li se u svakom trenutku pronaći odgovorne osobe koje mogu poduzeti potrebne radnje za smanjenje opsega štete (hitno zaustavljanje, zaobilazno rješenje) u slučaju većeg kvara AI?
- Kupuje li se AI iz zemalja izvan EU-a ili se tamo razvija? (pozadina ovoga je provjera usklađenosti s propisima o zaštiti osobnih podataka, a problem može predstavljati odstupanje od standarda zaštite podataka iz zemalja izvan EU).
S obzirom na sve veću rasprostranjenost i korištenje AI u projektima, ponašanja suprotna smjernicama digitalne etike o AI predstavljaju rizik za poslovanje stoga je u procjenu rizika usklađenosti nepoštivanje takvih smjernica uvedeno kao novi rizik usklađenosti. Procjena rizika usklađenosti ključni je korak u provedbi učinkovitog, proaktivnog i održivog programa usklađenosti. Rezultati procjene navedenog rizika kao i već postojećih pomažu nam da razvijemo odgovarajuće mjere kako bismo osigurali usklađenost sa smjernicama i dugoročno podignemo svijest o potrebi poštivanja etičkih smjernica u AI projektima te da prepoznamo prostore za poboljšanje. Sve navedeno će imati pozitivan učinak na poslovanje, smanjit će negativni učinci koje nepoštivanje smjernica digitalne etike o AI može imati na AI projekte, proizvode i usluge kao i povećati već uspostavljeno povjerenje i zadovoljstvo korisnika, zaposlenika i drugih dionika u našu kompaniju.