Teknologiajohtajien allekirjoittama uusi avoin kirje vaatii kuuden kuukauden taukoa kehittyneiden tekoälysovellusten kehittämisessä, jotka voivat aiheuttaa "syviä riskejä yhteiskunnalle ja ihmiskunnalle".
Kirjeen allekirjoittivat Applen toinen perustaja Steve Wozniak, Teslan toimitusjohtaja Elon Musk, muut teknologiajohtajat ja monet tekoälytutkijat. Se kehottaa olemaan varovainen koskien GPT-4:ää tehokkaampaa "nousevaa" tekoälyä. Emme puhu täällä Siristä (ainakaan vielä).
Avoin kirje kehottaa pitämään tauon tarkempaan suunnitteluun edistyneen tekoälyn hallinnassa
Kirje ilmestyi Future of Life Instituten verkkosivuilla ja keräsi keskiviikkoon mennessä yli 1 123 allekirjoitusta. Se ei vaadi taukoa kaikkiAI kehitys, vain "Yhä suurempia arvaamattomia mustalaatikkomalleja, joissa on uusia ominaisuuksia."
"Pyydämme kaikkia tekoälylaboratorioita keskeyttämään välittömästi vähintään kuudeksi kuukaudeksi GPT-4:ää tehokkaampien tekoälyjärjestelmien koulutuksen", se sanoi. Se lisäsi tauon "pitäisi olla julkinen ja todennettavissa". Ja jos se ei tapahdu nopeasti, "hallitusten tulisi puuttua asiaan ja asettaa moratorio".
"Riippumaton kilpailu"
Kirjeessä kuvattiin tekoälyn kehitystä hallitsemattomaksi, riskialttiiksi, arvaamattomaksi ja jopa omien tekijöiden ymmärtämättömyydeksi, kiitos vilkkaasta kilpailusta. Siinä viitattiin Asilomar AI -periaatteet kehitetty Beneficial AI -konferenssissa vuonna 2017:
Kuten laajalti hyväksytyissä Asilomarin tekoälyperiaatteissa todetaan, Edistyksellinen tekoäly voisi edustaa syvällistä muutosta maapallon elämän historiassa, ja sitä tulisi suunnitella ja hallita oikealla huolella ja resursseilla. Valitettavasti tämän tasoinen suunnittelu ja hallinta ei tapahdu, vaikka viime kuukausina tekoälylaboratoriot ovat olleet hallinnassa. kilpaa kehittääkseen ja ottaakseen käyttöön entistä tehokkaampia digitaalisia mieliä, joita kukaan – eivät edes niiden tekijät – voi ymmärtää, ennustaa tai luotettavasti ohjata.
Pitäisi teemmekö tätä edes?
Allekirjoittajat esittivät useita kysymyksiä, joita he korostivat ihmisiä pitäisi kysy ennen kuin aloitat tekoälyn kehittämisen. Kirjeessä viitattiin myös tekoälyn kykyyn viedä pois monenlaisia töitä eri tasoilla, ei vain yksinkertaisia, toistuvia tehtäviä.
Pitäisi annamme koneiden täyttää tietokanavimme propagandalla ja valheella? Pitäisi automatisoimme pois kaikki työt, mukaan lukien täyttävät työt? Pitäisi kehitämme ei-inhimillisiä mieliä, jotka saattavat lopulta ylittää, olla älykkäämpiä, vanhentuneita ja korvata meidät? Pitäisi olemme vaarassa menettää hallinnan sivilisaatiossamme? Tällaisia päätöksiä ei saa delegoida valitsemattomille teknologiajohtajille. Tehokkaita tekoälyjärjestelmiä tulisi kehittää vasta sitten, kun olemme varmoja, että niiden vaikutukset ovat myönteisiä ja niiden riskit ovat hallittavissa.
Jopa AI-bot ChatGPT: n kehittäjä ehdotti sitä
Kirje huomautti, että ChatGPT-kehittäjä OpenAI aiemmin huomautti, että tauko saattaa olla tarpeen.
OpenAI: n äskettäinen lausunto tekoälystä sanoo, että "jossain vaiheessa voi olla tärkeää saada riippumaton arviointi ennen tulevien järjestelmien kouluttamisesta ja edistyneimmistä pyrkimyksistä sopia uusien mallien luomiseen käytetyn laskennan kasvunopeuden rajoittamisesta." Me olla samaa mieltä. Se kohta on nyt.
Positiiviset vaikutukset ja hallittavissa olevat riskit
Edellä mainittujen myönteisten vaikutusten ja hallittavissa olevien riskien lisäksi tauon tavoite on tiivistetty kirjeessä seuraavasti:
Tekoälytutkimuksen ja -kehityksen tulisi keskittyä nykypäivän tehokkaiden, huippuluokan järjestelmien tekemiseen tarkempiksi, turvallisemmiksi, tulkittavissa oleviksi, läpinäkyvimmiksi, kestävämmiksi, yhdenmukaisiksi, luotettavimmiksi ja uskollisemmiksi.
Ja kirjeessä kuvattiin myös tarvittavia suojatoimia yhteistyössä päättäjien kanssa kehitettyjen hallintojärjestelmien kautta.
Tekoälykehittäjien on työskenneltävä poliittisten päättäjien kanssa nopeuttaakseen dramaattisesti kestävien AI-hallintajärjestelmien kehitystä. Näihin tulisi kuulua vähintään: tekoälyyn erikoistuneet uudet ja kykenevät sääntelyviranomaiset; erittäin suorituskykyisten tekoälyjärjestelmien ja suurien laskentakapasiteettien valvonta ja seuranta; alkuperä- ja vesileimajärjestelmät, jotka auttavat erottamaan todelliset synteettisistä ja jäljittämään mallin vuotoja; vankka auditointi- ja sertifiointiekosysteemi; vastuu tekoälyn aiheuttamista vahingoista; vahva julkinen rahoitus tekniselle tekoälyn turvallisuustutkimukselle; ja hyvin resursoidut laitokset selviytymään dramaattisista taloudellisista ja poliittisista häiriöistä (erityisesti demokratialle), joita tekoäly aiheuttaa.
Oletko samaa mieltä siitä, että edistyneen tekoälyn harkitsemiseen ja suunnitteluun tarvitaan tauko? Voit vapaasti kommentoida alle.