StefanTallqvist

Robottien moraalipsykologiaa

 

”Robottiauto joutuu tekemään päätöksiä elämästä ja kuolemasta – testaa, miten valitsisit itse”, HS tänään 6.11.2016. Miten tekoäly selviää liikennetilanteista, jossa sen pitää päättää ajaako auto ojaan vai tielle juosseen lapsen yli? Kysyimme asiantuntijalta, joka tutkii koneiden moraalipsykologiaa.

Edellinen skenaario on klassinen esimerkki tekoälyn etiikan ongelmista. Kysymys on niin vaikea, että mikään autonvalmistaja ei ole ottanut siihen selkeää kantaa.

Saman kysymyksen parissa työskentelee myös kognitiotieteen tutkijatohtori Michael Laakasuo. Hän johtaa Helsingin yliopiston tutkimushanketta Moralities of Intelligent Machines. Hankkeessa tutkitaan robottien moraalipsykologiaa ja muun muassa sitä, minkälaisia odotuksia ihmisillä on robottien moraalin suhteen.

”Tekoälyn moraalista pitäisi saada aikaan suuri julkinen keskustelu. Sitä ei voi jättää vain yksittäisten insinöörien päätettäväksi”, Laakasuo sanoo.

=

Moniko US Puheenvuroon lukijoista tietää, että Asimov on jo 1930 luvulta lähtien miettinyt tekoälyn etiikan ongelmia syvällisesti?

Säännöt (Asimov, kirjoittanut vuosina 1939…1941):

1.       Robotti ei saa vahingoittaa ihmistä eikä laiminlyönnin johdosta saattaa tätä vahingoittumaan.

2.       Robotin on toteltava ihmisen sille antamia määräyksiä paitsi milloin ne ovat ristiriidassa ensimmäisen pääsäännön kanssa.

3.       Robotin on varjeltava omaa olemassaoloaan niin kauan kuin tällainen varjeleminen ei ole ristiriidassa ensimmäisen eikä toisen pääsäännön kanssa.

Säännöt on suomentanut Matti Kannosto. Tästä lähtökohdasta Asimov rakensi kirjoihinsa ajatuskulkuja, jotka johtivat usein oivaltaviin näkökulmiin itse ihmisyyden syvimmän olemuksen luonteesta. Myöhemmin hän lisäsi nollannen pääsäännön: "0. Robotin tulee suojella ihmiskuntaa." Tällöin muihin pääsääntöihin lisätään määreet "mikäli se ei riko edellisiä".

Kaikki kolme pääsääntöä esiintyvät ensi kertaa Asimovin novellissa Runaround (1941). Tämän jälkeen hän käytti niitä monissa kirjoissaan. Säännöt esiintyivät myös löyhästi Asimovin Robotti-sarjaan perustuvassa elokuvassa I, Robot (2004).

https://fi.wikipedia.org/wiki/Robotiikan_kolme_pääsääntöä

 

Piditkö tästä kirjoituksesta? Näytä se!

0Suosittele

Kukaan ei vielä ole suositellut tätä kirjoitusta.

NäytäPiilota kommentit (12 kommenttia)

Käyttäjän kosonenjuhapekka kuva
Juha-Pekka Kosonen

Harmillista, ettei Asimovin robotiikan ensimmäinen perussääntö ole edes harkinnassa, kun nykyajan robotteja ohjelmoidaan. Nythän tekoälyn kehitys etenee lähinnä eri maiden armeijoiden puolustus/hyökkäysvoimien tarpeiden mukaisesti ja rahoittamana.

Tekoälyä kehitetään mm. Yhdysvalloissa armeijan tarpeisiin siten, että robotit, olkoon ne droneja ja mitä muuta tahansa, onnistuvat tappamaan vihollisia mahdollisimman tehokkaasti.

Väinö Linna onnistui erottamaan vihollisen ihmisestä ansiokkaasti romaanissaan sotaromaani, jossa Rokka vastaa kysyttäessä miltä se tuntuu ampua ihmistä. Rokka vastaa että en mie tiiä, ko mie oon ampunu vai ryssii...

Samaa periaatetta ilmeisesti käytetään ohjelmoitaessa tappokoneiden tekoälyä. Ihmiskunnan kannalta tämä on lyhytnäköistä viitaten Terminator elokuvien maailmaan.

Tiede ei ole vielä onnistunut selvittämään tietoisuuden olemusta. Entäpä jos tekoäly jonain päivänä saavuttaa "tietoisuuden."

Silloin ihmiskunnan pelastaisi ainoastaan kerneliin piilotettu koodi, joka estää konetta vahingoittamasta ihmisiä.

Käyttäjän StefanTallqvist kuva
Stefan H. Tallqvist

Juha-Pekka Kosonen tiivistää asioita hyvin oleellisella tavalla, mikä voisi viitata siihen, että hän on miettinyt asioita ennenkin; siis:

- 1. mikä on tietoisuuden olemus
- 2. voiko tekoäly saavuttaa tietoisuuden
- 3. kerneliin piilotettu koodi joka estää konetta vahingoittamasta ihmisiä

Suuri tulva ajatuksia tulee minunkin mieleen. Asia palautuu tietenkin myös siihen, että mistä ihmisen moraalikäsitteet ovat peräisin, alun perin?

Eläimillä ei ole abstraktia ajattelukykyä, vaikkakin jotkut simpanssit ovat oppineet jonkinlaista yksinkertaista kommunikaatiota. Ei ole myöskään millään robotilla, toistaiseksi. Jotkut kännykät myydään mainostekstillä ”puhelin joka ajattelee kuten sinä”. Valitettavasti moneen kännykkään rakennettu logiikka usein on erilainen kun minun.

Robottiauton esimerkissä, mikäli haluttaisiin ohjelmoida esim. Asimovin sääntö nro 1, tämän säännön moraali pitäisi kääntää konekielisille käskyille jotka ohjaa mm. ohjauspyörä, kaasua ja jarrua. Ei taida ainakaan vielä onnistua.

Mutta joittenkin kaukonäköisten SciFi kirjoittajien visiot ovat toteutuneet paljon nopeammin, kun osasimme kuvitella!

Erittäin perusteellinen käsittely aiheesta kautta ihmiskunnan historiaa, löytyy Urantia-tekstistä.

Otetaan esille mm. se, että onko ihmisen tappaminen sodassa yhtään sen enemmän hyväksyttävissä, kun mikä tahansa murha?

Urantia-teksti:
(805.1) 71:5.1 Kilpailu on yhteiskunnallisen edistyksen kannalta välttämätöntä, mutta säännöstelemätön kilpailu synnyttää väkivaltaa. Nykyisessä yhteiskunnassa kilpailu on vähin erin ottamassa sodan paikan sikäli, että se määrää ihmisen aseman tuotantoelämän piirissä, samoin kuin se määrää, mitkä elinkeinonhaarat säilyvät. (Murhalla ja sodalla on erilainen asema tapasäännöstössä sikäli, että murhaa on yhteiskunnan alkupäivistä lähtien pidetty laittomana, kun sen sijaan sotaa ei ihmiskunta kokonaisuudessaan ole vielä koskaan julistanut lainsuojattomaksi.)

(805.2) 71:5.2 Ihannevaltio ottaa asiakseen yhteiskunnallisen käyttäytymisen säätelyn vain siinä määrin, että se poistaa väkivallan yksilöiden välisestä kilpailusta ja ehkäisee vilpillisyyden yksityisestä yritteliäisyydestä. Valtion suuri ongelma on tämä: Miten voitte taata rauhan ja selkkauksettomuuden elinkeinoelämän piirissä, maksaa verot valtiovallan ylläpitämiseksi ja samalla estää verotusta rampauttamasta tuotantotoimintaa, sekä ehkäistä valtion muuttumisen loismaiseksi ja tyrannimaiseksi?

Käyttäjän KalleSalo kuva
Kalle Salo

Mutta miksi puhua robottien moraalista. Niin kauan kuin tekoälyllä varustamaton tai sillä varustettu mutta kuitenkin ehdollistettu kone on kyseessä, ei se laite mitään moraalia harjoita, vaan noudattaa ihmisen sille latelemia sääntöjä. Kysymys on siis ihan edelleen vain ihmisten moraalista.

Onko kyseessä tahaton, tyhmä ajatuslapsus, alitajuinen tarve ulkoistaa moraalia vai suoranainen tiedostettu moraalinharjoittamisen torjunta ja kätevän tekosyyn nappaaminen? Kierossa tämä asia nimittäin eittämättä on.

Ounastelen että asia on vaikea juuri siksi, että kyse on edelleenkin ihmisten moraalisuudesta, joka on kipeä aihe. Erityisen kipeää siitä tulisi käytännössä tekemään VARSINKIN se seikka, että koneiden sitten tuolla palloillessa ne noudattaisivat 100% kieroilematta, ilman tekosyitä ja väistelyitä juuri sitä moraalia, minkä me niille olisimme ohjelmoineet, näyttäen sen moraalin lopputuloksen käytännössä alastomana ja armotta. Sellaiseen tyhjentävään todeksi tai vääräksi osoittamiseen emme halua moraalikäsityksiämme alistettavan.

Käyttäjän StefanTallqvist kuva
Stefan H. Tallqvist

Kalle Salo: ”Sellaiseen tyhjentävään todeksi tai vääräksi osoittamiseen emme halua moraalikäsityksiämme alistettavan.”

Jos meillä on olemassa muita tietoja, jotka ovat peräisin esim. avaruuden ikivanhoista kulttuureista, eikö niitä olisi syytä tukia?
U-teksti mukaan ihminen, eikä muutkaan samankaltaiset olennot, pysty kehittämään sellaista humaania moraalikäsitystä joka meillä parhaassa tapauksessa on. Opetus pitää tulla ulkopuoletta!

Kaikkein varhaisimmat ”käskyt” ovat peräisin Mesopotamian ja Sumerien lainsäädännöstä, jotka nekin ovat peräisin niistä satoja tuhansista vanhoista kulttuureista, jotka kerran on ollut olemassa Persian lahden saarilla; kuten Dilmun tai Tilmun.

Olen tutkinut varsin paljon tätä kaikkein varhaisinta historiaa eri lähteitten avulla.

Käyttäjän KalleSalo kuva
Kalle Salo

Urantia new age uskontona argumentteineen, että moraalin olisi tultava ulkopuolelta, ei eroa mitenkään muista uskonnoista tässä asiassa.

Moraalin ulkoistaminen on uskonnollisen moraalittomuuden piirre. Moraalisuus on moraalin harjoittamista, joka koostuu kolmesta osasta, eli ensiksi moraalin olennaisuuden tajuamisesta, toiseksi sen luonteen selvittämisestä itselleen, johon kuuluu ensin myös siinä toimivien työkalujen löytäminen, sekä kolmanneksi sen mukaan käyttäytymisestä johdonmukaisesti. Moraalittomuus on määritelmänmukaisesti tämän tekemättä jättämistä ja epämoraalisuus puolestaan sen vastoin tekemistä, minkä tietää moraaliseksi.

Moraalin ulkoistaminen on konsti valjastaa moraali oman ideologisen edun tavoitteluun, lyömäaseeksi ja/tai vapautuminen aidon moraalin velvoitteista. Vastaavasti moraalin ulkoistamisen edellyttäminen muilta on kehotus hyväksyä, että oma järki on impotentti, kehotus myöntyä tekaistuun tunnustukseen, allekirjoittaa oma teloitustuomio, Ayn Randia ja Gunny Hartmania mukaillen. Kaikilta kanteilta tarkasteltuna moraalin ulkoistaminen on silkkaa häpeämätöntä koko käsitteen päälle kusemista ja siten ei vain moraalitonta, vaan jopa epämoraalista. Se on niin paha asia, että se onnistuu jopa olemaan molempia yhtä aikaa.

Moraali on asiapitoisemmalla termillä ilmaistuna tiedostavan älyllisen olennon sosiaalidynamiikkaa, luonnonlaki, joka kuten kaikki muutkin vastaavat on järjellä ja logiikalla pääteltävissä, sekä empiirisesti seurauksiltaan verifioitavissa.

Käyttäjän eiltanen kuva
Eero Iltanen

Kyllä oletus on että esim. auton omistajan turvallisuus on ykkösprioriteetti. Minä en ainakaan ostaisi autoa ellei näin ole.

Toki loukkaantuminen on sitten eri asia.

Käyttäjän jallerajala kuva
Jari Rajala

Olen aina ollut sitä mieltä että lihaa ja nopeasti liikkuvaa metallia ei pitäisi laittaa ollenkaan samaan tilaan. Pitkän tähtäimen visio > Kehitetään virtuaalitodellisuutta siihen suuntaan että liikkumisen nopean metallin seassa voi unohtaa lähes kokonaan. Saattaahan siihen tekniikkaan tovi jos toinen mennä, mutta, kuollaan tahi loukkaannutaan, noin vain virtuaalisesti ;D

Mitä mieltä Tallqvist on mm. Elon Muskin esittämästä ajatuksesta, että elämme todennäköisesti kehittyneemmän sivilisaation tietokonepelissä? Juttu > http://www.mikrobitti.fi/2016/10/katso-taaksesi-ka...

Käyttäjän StefanTallqvist kuva
Stefan H. Tallqvist

”Tesla-autofirman pääjohtaja, seuraavaksi Steve Jobsiksi julkisuudessa nostettu Elon Musk kohautti kesällä sanomalla haastattelussa, että me kaikki todennäköisesti elämme korkeamman älyn luomassa simulaatiossa.”

Jarille,

Sana ”simulaatio” viitta johonkin näennäistodellisuuteen; sitä sanaa ei voisi soveltaa persoonallisiin olentoihin joilla on vapaa valinta. U-tekstin mukaan korkeinkaan Jumaluus ei saa maailmankaikkeudessa toimia jonkun olennon vapaata tahtoa vastaan.

Mutta olemme U-teksti mukaan elämänkokeiluplaneetta, jolle on istutettu hieman normaalista poikkeavia kromosomeja. Elämän kehitysvaiheita ollaan seurattu hyvin tarkasti, ja kokemukset ja opetukset tallennettu. Näin tehdään kaikilla uusilla planeetoilla, joille alkuperäisiä elämänistutukisia tehdään.

Elämän kehittäminen avaruudessa on siis jatkuva prosessi, jossa etsitään kehittyneempiä alkukromosomeja.

Valtaosa elämän istutuksista on kuitenkin standardia noudattavia, ja niitten kehityskulku on tiedossa.

Ulkopuolinen ohjaus päättyy täysin, kun päämäärä jollakin planeetalla on saavutettu; kun puhuva ja ajatteleva ihmisen kaltainen olento on ilmaantunut.

Sen jälkeen tapahtuu hienovaraista henkistä ohjausta, sekä tarvittaessa uusien geenien istutusta ihmiskuntaan, jo olevien alkuperäisten geenien tueksi.

=
Selitin hyvin lyhyesti U-tekstin paljon yksityiskohtaisempaa esitystä, niin kun sen olin ymmärtänyt.

Käyttäjän jallerajala kuva
Jari Rajala

Viime vuosina useissa tieteellisissä kokeissa on todettu, että vapaa tahto näyttää olevan illuusio. Aivot näyttävät tutkimusten mukaan tehneen päätöksen ennen kuin tieto siitä ehtii tietoisuuteen asti.

Juuri niin kuin simulaatiossa kävisi.

U-teksteihin en pysty ottamaan kantaa. Tai ehkä ihan hieman, näin. Miksi kummassa näiden kokeiluplaneettojen sallitaan olemaan näin, hmmm. helvetillisiä? Esimerkkinä maaplaneetta. Mielipuolet johtavat ydinpommeineen maailmaamme, ja taivaalta saattaa milloin tahansa tippua vuoren kokoinen kivi niskaan. Ellei maanjäristys, tsunami tai supertulivuori sitten hoitele, niin ehkä pandemia. Oliskos sitten vain huonoa suunnittelua, ilman säälin tunnetta?

Käyttäjän StefanTallqvist kuva
Stefan H. Tallqvist

#8

En näe väitettäsi koskien vapaata tahtoa relevanttina. Miksi ei päätös voisi syntyä mielessä ennen sen ilmaantumista tietoisuuteen?

U-teksti on tavattoman kattava, ja selostuksia löytyy paljon enemmän, kun sinä edes ehdit kysyä. Minä pystyn antamaa vain jonkun pienen osaselityksen, joka riippuu tilanteesta ja kysyjästä.

Ensinnäkin, planeettakuntamme on nuori ja kehityksen alkuvaiheessa. Sinä et tunne lopputulosta; avaruuden sonnittelijoilla on rajattomasti aikaa. Voisi sanoa, että aika on uusiutuva luonnonvara, jotta vihreätkin ymmärtäisivät?

Vähitellen kaikkien luonnollisten mullistusten rajuus vähenee, ja olot rauhoittuvat.

Sisäpaisti U-kirjan mukaan olemme eristetty planeettaa, jossa on tapahtunut kapina avaruuden ikivanoja sääntöjä ja lakia vastaan. Me olemme eritetty planeetta, ja mm avaruuden kosmiset lähetykset ja tiedonannot on kytketty pois.

Mutta nämä asiat olisi mieluummin itse todettava U-tekstiä tutkimalla.

Käyttäjän jallerajala kuva
Jari Rajala Vastaus kommenttiin #9

Niin että tämä on siis eräänlainen vankilaplaneetta, johtuen esi-isien erheestä? Logiikan mukaan > Siispä meillä ei nyt voi olla (vapautta) vapaata tahtoa, vankilassa.

Vapaa tahto voisi olla mielestäni vain silloin, jos eläisimme vapaina alkuperäisessä universumissa (Mikä se lieneekään :-) Simulaatiossa tahi vankilassa omalla tahdollamme ei olisi yhtään mitään väliä. Joku muu tahtoisi ylitsemme jotain muuta. Alkuperäisessä universumissa taas, vapaan tahdon omaava voisi muuttaa jopa "kohtaloaan".

Käyttäjän StefanTallqvist kuva
Stefan H. Tallqvist

#10

Esi-isien erheet eivät johtuneet ihmisen erheistä, vaan syypää oli joukko kosmisia kapinallisia.

Niitten poikkeavat ideat aiheuttivat vaikeudet; ei ihmisen kaltaiset sodat joita U-teksti pitää lapsellisina.

Kapinallisia esiintyy avaruudessa, mutta harvoin. Asutetut planeetta johtuvat kärsimään, ja korjausprosessi on pitkä.

Toimituksen poiminnat