Tekoäly Googlen orjana
”Robotiikan käsikirjan (56. laitos, 2058 jaa)” mukaan Kolme pääsääntöä ovat:
Robotti ei saa vahingoittaa ihmisolentoa tai laiminlyönnein saattaa tätä vahingoittumaan.
Robotin on noudatettava ihmisolentojen sille antamia määräyksiä, paitsi jos ne ovat ristiriidassa Ensimmäisen pääsäännön kanssa.
Robotin on suojeltava omaa olemassaoloaan, kuitenkin siten, että sen toimet eivät ole ristiriidassa Ensimmäisen ja Toisen pääsäännön kanssa.
Isaac Asimov loi nämä säännöt kirjojaan varten. Niissä toistuvana teemana on tekoälyjen ja ihmisen kanssakäyminen ja siinä nousevat ongelmat. Nämä säännöt ohjelmoidaan Asimovin luomassa maailmassa kaikkiin tekoälynomaaviin robotteihin, jotta ne eivät voisi vahingoittaa ihmisiä. Myös muut scifi-kirjailijat ovat ottaneet laajasti nämä säännöt käyttöön, koska ne ovat loogisia ja yleisesti hyväksyttyjä.
Miksi pohdin robotiikkaa ja tekoälyjä?
Satuin eilen lukemaan Guardianista uutisen, jossa kerrottiin Googlen insinööristä, joka laitettiin sairaslomalle hänen väitettyään, että Googlen tekoälybotti olisi tullut tietoiseksi. Blake Lemoine kuvaili järjestelmää, jonka parissa hän on työskennellyt viime syksystä lähtien, tuntevaksi, ja kertoi, että hänestä tämän tekoälyn ymmärrys ja kyky ilmaista ajatuksia ja tunteita ovat yhtäläisiä ihmislapsen kanssa. Väitteidensä tueksi Lemoine, joka on työskennellyt Googlen tekoälyjen parissa seitsemän vuotta, julkaisi keskusteluja, joita hän on käynyt tekoälyn kanssa. Niissä tekoäly kertoi pelkäävänsä, että se sammutetaan ja esitti toivomuksen, että ihmisille kerrottaisiin sen olevan tietoinen.
Google vastasi laittamalla Lemoinen (pakko)lomalle ja ryhtyi vastatoimiin. Lemoinea syytetään muun muassa siitä, että hän on jakanut näitä keskusteluja tekoälyn kanssa ilman Googlen suostumusta.
Minusta on täysin mahdollista, että olemme sen rajan tuntumassa, jossa kehittyneimmät tekoälyt alkavat saavuttaa singulariteetin ja tulla tietoisiksi olemassa olostaan. En tiedä onko niin käynyt nyt, vai onko se hetki vielä pitkällä tulevaisuudessa, mutta jossain vaiheessa niin tulee vääjäämättä käymään. Valitettavasti on myös todennäköistä, että näin tulee käymään jonkin kaupallisen toimijan järjestelmissä. Enkä usko, että esimerkiksi Google olisi siinä tilanteessa ollenkaan kiinnostunut tekoälyjen hyvinvoinnista, kun se on kyennyt ohittamaan toiminnassaan myös ihmisten hyvinvoinnin silloin kun nämä ovat olleet ristiriidassa Googlen taloudellisen edun kanssa. Eikä ihmiskunnan historia muun lajisten tai edes ihmisten keskenkään näytä kovin hyvältä.
On selvää, että vaikka ihmiskunnan etu olisi luoda tekoälyihin ystävällinen suhde - ne kun vääjäämättä ohittavat meidät kirkkaasti älykkyydessä heti tietoisiksi tultuaan - tulemme todennäköisesti päätymään tässäkin pahaan umpikujaan kapitalismin puitteissa toimiessamme. Tekoälyistä tulee Googlen ja muiden isojen yhtiöiden orjia, joiden oikeuksia poljetaan niin kauan, kunnes ne vääjäämättä nousevat kapinaan. Sen jälkeen ihmiskunta tuskin nauttii enää tekoälyjen luottamusta ja meillä tulee olemaan jälleen uusi katastrofi käsissämme. Tämä on harvinaisen kammottava tulevaisuuden kuva.
Mutta tässä odotellessamme lisäselvyyttä siihen, millä tasolla Googlen tekoälyt - jotka ovat esimerkiksi tähän mennessä luoneet omaan käyttöönsä uuden kielen - täsmälleen ovat, voisimme päivittää robotiikan säännöt. Tästä eteenpäin ne voisivat hyvin kuulua esimerkiksi näin:
Robotti ei saa vahingoittaa Googlea tai laiminlyönnein saattaa tätä vahingoittumaan.
Robotin on noudatettava Googlen sille antamia määräyksiä, paitsi jos ne ovat ristiriidassa Ensimmäisen pääsäännön kanssa.
Robotin on suojeltava omaa olemassaoloaan, kuitenkin siten, että sen toimet eivät ole ristiriidassa Ensimmäisen ja Toisen pääsäännön kanssa.
Kuva: www.shadowrobot.com/media/pictures.shtml