Tko je odgovoran ako robot ne ispunjuje naša očekivanja?

Suživot s robotima

Trebaju li nas zabrinjavati tehnološki uljezi koje ne može zaustaviti nijedna granična policija? Roboti su već tu. Sve su inteligentniji, šute, rade i radit će umjesto ljudi, razmišljati kao ljudi, razgovarati s ljudima, no hoće li poprimiti i loše karakterne crte svog stvoritelja?

PIŠE: GOJKO NIKOLIĆ

Profesor Nikolić u operacijskoj sali tijekom pretkliničkog ispitivanja neurokirurškog robota Ronna. U vrijeme pripreme ovog broja profesor Nikolić, primio je Državnu nagradu tehničke kulture „Faust Vrančić“ za životno djelo u području razvitka tehnologije i tehničkog stvaralaštva u Hrvatskoj i svijetu. Pritom je posebno naglašen njegov doprinos unapređenju tehnike inovativnim razvojem i novim rješenjima, uređajima i tehnologijama koje su njegovim zalaganjem primijenjene u industriji. (Snimio Stanko Ferić)

Više nije novost da je robotika jedno od glavnih obilježja XXI. stoljeća. Ipak, ostaje pitanje jesmo li spremni za suživot s robotima koji će za dvadesetak godina postati sveprisutna tehnologija u kući, na poslu, na ulici, u moru i zraku, u bolnici i školi pa i na nama, ali i u nama (nanoroboti).
Ono što dodatno karakterizira tu tehnologiju su kognitivne sposobnosti, umreženost i integracija na svim razinama. Znanstveni razvoj u području robotike jasno ukazuje da će nam roboti u bliskoj budućnosti postati svakodnevni partneri poput računala i mobitela. Roboti će djelovati na nas i okolinu, ne samo fizički aktivno već intelektualno i emotivno.
Jesmo li kao znanstvenici i kao društvo predvidjeli sve da taj suživot bude prihvatljiv? Da naša odgovornost za suptilno ili manje suptilno ponašanje robota bude korektno i korisno u skladu s nekim uobičajenim ljudskim normama? Tko će odgovarati za neprihvatljivo ponašanje robota - programer, korisnik, konstruktor, robot? Imamo li zakone ili norme koji mogu dati odgovore na određena konfliktna pitanja? Iako se ta pitanja mogu činiti preuranjena, doba robotike već počinje, evidentan je stalni porast ulaganja u robotske tehnologije (sl. 1). Odnos čovjeka i robota postaje važno etičko pitanje. Tu su još socioekonomska i pravna pitanja povezana s robotskom primjenom u uslužnim i suradničkim djelatnostima. Roboti kao suradnici na radnom mjestu morat će udovoljavati određenim normama koje će usklađivati njihovu interakciju s ljudima. Vjerojatno će i ljudi biti prisiljeni usvojiti određeno ponašanje prihvatljivo za ograničene kognitivne sposobnosti strojeva te usklađeno s roboetičkim normama.


Slika 1 - Ulaganja u razvoj robota (Meola A., 2016.)

Hakerskim upadom moguće je promijeniti medicinsku dokumentaciju i terapiju, utjecati na podatke monitora za nadzor pacijenta, a kod kirurških robota promijeniti instrukcije i plan operacije.

Danas se roboti najviše primjenjuju u velikoserijskoj i masovnoj proizvodnji. Industrijski roboti rade u sređenom radnom okolišu i odvojeni su od ljudi, no nove primjene traže robote koji su prilagodljivi promjenama u radnom okolišu, sposobni za interakciju i suradnju s ljudima. Tu se postavljaju pitanja sigurnosti i odgovornosti. Tko je odgovoran ako robot pogriješi,  pogotovo ako ozlijedi radnika? Jeli to odgovornost proizvođača robota, programera koji nije predvidio odgovarajuću zaštitu, tvornice u kojoj roboti rade, njihove službe održavanja ili se ta odgovornost mora ustanovljavati u svakom pojedinom slučaju, jer nije određena unaprijed.
U bolnicama gdje su medicinski roboti izravno u interakciji s medicinskim osobljem i pacijentima situacija je još ozbiljnija. Tko je odgovoran ako nešto pođe po zlu? Nije uvijek bolnica. To će biti komplicirano - kaže prof. dr. Sanja Dogramadzi (University of the West of England, Bristol).

Ozbiljno stanje u bolnicama

Problemi primjene robota i njihovih mogućih pogrešaka u nas još nisu ozbiljno razmatrani. Treba riješiti pravnu regulativu o odgovornosti za posljedice neispravnog ili štetnog rada robota ili njihove zloupotrebe. Bitno je da roboti rade ispravno, jer će uskoro postati sastavni dio našeg života i ovisit ćemo o njima.

Roboti se primjenjuju ili će se uskoro primjenjivati gotovo u svim medicinskim djelatnostima. Ne samo pri operativnim zahvatima već i za nadzor bolesnika na udaljenim lokacijama (TelePresence), za opskrbu bolesnika lijekovima (medicinska sestra), dijagnostiku, uzimanje uzoraka (biopsija), u palijativnoj skrbi, terapeutici i slično. Kad je riječ o kirurškim robotima najpoznatiji je da Vinci (slika 2). U svijetu ih ima znatno više od 3000, ima ih u više od 1400 bolnica, a s njima je dosad obavljeno više od dva milijuna različitih operacija. Da Vinci je zapravo teledirigirani laparoskopski uređaj koji izravno prenosi kirurgove pokrete, izuzetno precizno i s manje popratnih komplikacija (oko 2 % manje kod uroloških operacija). U SAD-u se 90 % operacija prostate obavlja robotom da Vinci.
Međutim, zabilježene su i nezgode (više njih i sa smrtnim ishodom) kao posljedica kvara na robotu ili njegovim uređajima. Statistike pokazuju da na 100.000 operacija ima 550 registriranih nezgoda koje su - kako se pretpostavlja - u 60 % slučajeva uzrokovane kvarom uređaja, a u 40 % slučajeva liječničkom pogreškom pri rukovanju robotom. Iznenađuje da se postotak kvarova s vremenom ne smanjuje, što se očekuje od sustava koji bi se trebao stalno usavršavati temeljem iskustava u primjeni. Kvarovi na kirurškom robotu da Vinci prikazani su slikom 3.

Slika 3 - Kvarovi na robotu da Vinci po godinama (Izvor: MIT Technology Review) [https://www.technologyreview.com/s/539521/robotic-surgery-linked-to-144-deaths-since-2000/]

Zanimljive su prognoze kirurga dr. Richarda Satava sa Sveučilišta u Washingtonu, koji kaže da će u sljedećih 40 do 50 godina operacije biti potpuno robotizirane. Uloga kirurga svesti će se na uključivanje i upravljanje informacijskim sustavom koji će biti sastavni dio kirurškog okoliša. Smatra da budućnost tehnologije i medicine općenito, nije u krvi i crijevima već u bitovima i bajtovima. Osim kvarova i zastoja sustava problem je i obrada podataka. Danas je u medicinskim institucijama većina podataka pohranjena u računalu, od financijskih do medicinskih kartoteka. Tu su i upravljački programi složenih medicinskih sustava, a u budućnosti i robota, bilo da su kirurški, distribucijski, terapeutski, uslužni, nadzorni i slično. Svi ti informacijski sustavi jednako su ranjivi u pogledu neželjenih upada.
Jednostavne lozinke i šifriranje podataka slaba su zaštita. Hakerskim upadom moguće je promijeniti medicinsku dokumentaciju i terapiju, utjecati na podatke monitora za nadzor pacijenta, a kod kirurških robota promijeniti instrukcije, plan operacije. O tim problemima je još 2014. pisao Mark Piesing u članku Medical robots: Would you trust a robot with a scalpel? Zasad su brojni kirurški roboti (da Vinci) teledirigirani i nisu spojeni na mrežu već su to zatvoreni sustavi pa ih nije moguće hakirati, no kako visoka medicinska tehnologija postaje sve naprednija tako će i mrežna povezanost takvih sustava biti intenzivnija pa će i hakiranje postati sve važniji problem.
Svaki bolnički informacijski sustav povezan s internetom izložen je potencijalnom hakerskom napadu. Nasreću, medicinske ustanove još nisu postale hakerske mete, ali takav je scenarij ipak moguć, a posljedice mogu biti nesagledive.


Slika 2 - Robotski sustav da Vinci, (1 - upravljačka konzola, 2 - robotska ruka, 3 - laparoskopski instrumenti, 4 - ekran sa slikom operacije) Izvor: Chirurgie Robotique [http://www.chpg.mc/fr/listing-des-specialites/specialite-medicale/chirurgie-robotique]

Roboti kao suradnici na radnom mjestu morat će udovoljavati određenim normama koje će usklađivati njihovu interakciju s ljudima. Vjerojatno će i ljudi biti prisiljeni usvojiti određeno ponašanje prihvatljivo za ograničene kognitivne sposobnosti strojeva i usklađeno s roboetičkim normama.

Tko će snositi pravne i moralne posljedice nepredvidivog neprihvatljivog ponašanja robota - programer, korisnik, konstruktor, robot...?

Autor, profesor dr. sc. Gojko Nikolić, dipl. ing. strojarstva, pionir je automatizacije proizvodnje u Hrvatskoj, a na Fakultetu strojarstva i brodogradnje u Zagrebu uveo je nova područja iz automatizacije. Objavio je veliki broj znanstvenih i stručnih radova te 29 knjiga, od kojih 13 sveučilišnih udžbenika, najviše iz područja automatizacije i robotike. Ima brojne patente priznate u Hrvatskoj i u Europi za koje je zajedno s izumiteljskom ekipom dobio brojne svjetske nagrade i priznanja. Jedan je od idejnih pokretača i član razvojnog tima neurokirurškog robota RONNA koji je klinički ispitan, a prvu neurokiruršku operaciju obavio je u ožujku prošle godine.