Gaan na inhoud

KI-oorname

in Wikipedia, die vrye ensiklopedie
Deel van 'n reeks oor
Kunsmatige intelligensie
s • b • w

’n KI-oorname is ’n hipotetiese scenario waarin kunsmatige intelligensie (KI) die oorheersende vorm van intelligensie op Aarde word, aangesien rekenaarprogramme of robotte effektief beheer oor die planeet neem ten koste van die menslike spesie. Moontlike scenario's sluit in die vervanging van die hele menslike arbeidsmag, oorname deur 'n superintelligente KI, en die gewilde idee van 'n robotopstand. Verhale van KI-oornames is baie gewild in wetenskapfiksie. Sommige openbare figure, soos Stephen Hawking en Elon Musk, het navorsing oor voorsorgmaatreëls bepleit om te verseker dat toekomstige superintelligente masjiene onder menslike beheer bly.[1]

Tipes

[wysig | wysig bron]

Outomatisering van die ekonomie

[wysig | wysig bron]

Die tradisionele konsensus onder ekonome was dat tegnologiese vooruitgang nie langtermynwerkloosheid veroorsaak nie. Onlangse innovasie op die gebied van robotika en kunsmatige intelligensie het egter kommer laat ontstaan dat menslike arbeid uitgedien sal word, wat mense in verskeie sektore sonder werk laat om 'n bestaan te verdien, wat tot 'n ekonomiese krisis sal lei.[2][3][4][5] Baie klein en mediumgrootte ondernemings kan ook uit die besigheid gedryf word as hulle nie die nuutste robot- en KI-tegnologie kan bekostig of lisensieer nie, en moet dalk fokus op gebiede of dienste wat nie maklik vervang kan word vir voortgesette lewensvatbaarheid in die lig van sulke tegnologie nie. [6]

Tegnologieë wat werkers kan verplaas

[wysig | wysig bron]

KI-tegnologie is die afgelope jaar wyd aangeneem. Alhoewel hierdie tegnologie baie tradisionele werkers vervang het, skep dit ook nuwe geleenthede. Nywerhede wat die meeste vatbaar is vir KI-oorname sluit vervoer, kleinhandel en die weermag in. KI militêre tegnologieë, byvoorbeeld, laat soldate toe om op afstand te werk sonder enige risiko van besering. Skrywer Dave Bond voer aan dat soos KI-tegnologie aanhou ontwikkel en uitbrei, die verhouding tussen mense en robotte sal verander; hulle sal nou geïntegreer raak in verskeie aspekte van die lewe. KI sal waarskynlik sommige werkers verplaas terwyl geleenthede vir nuwe werk in ander sektore geskep word, veral in velde waar take herhaalbaar is.[7][8]

Rekenaar-geïntegreerde vervaardiging

[wysig | wysig bron]

Rekenaar-geïntegreerde vervaardiging gebruik rekenaars om die produksieproses te beheer. Dit laat individuele prosesse toe om inligting met mekaar uit te ruil en aksies te inisieer. Alhoewel vervaardiging vinniger en minder foutgevoelig kan wees deur die integrasie van rekenaars, is die grootste voordeel die vermoë om outomatiese vervaardigingsprosesse te skep. Rekenaar-geïntegreerde vervaardiging word in die motor-, lugvaart-, ruimte- en skeepsboubedrywe gebruik.

Witboordjiemasjiene

[wysig | wysig bron]

Die 21ste eeu het gesien hoe 'n verskeidenheid vaardige take gedeeltelik deur masjiene oorgeneem is, insluitend vertaling, regsnavorsing en laevlak-joernalistiek. Versorgingswerk, vermaak en ander take wat empatie vereis, wat voorheen veilig gedink is van outomatisering, is ook begin om deur robotte uitgevoer te word.[9][10][11][12]

Outonome motors

[wysig | wysig bron]

'n Outonome motor is 'n voertuig wat in staat is om sy omgewing te waarneem en te navigeer sonder menslike insette. Baie sulke voertuie word ontwikkel, maar vanaf Mei 2017 is outomatiese motors wat op openbare paaie toegelaat word, nog nie ten volle outonoom nie. Hulle benodig almal 'n menslike bestuurder aan die stuur wat op 'n oomblik se kennisgewing beheer oor die voertuig kan neem. Onder die struikelblokke vir die wydverspreide aanvaarding van outonome voertuie is kommer oor die gevolglike verlies aan bestuursverwante werksgeleenthede in die padvervoerbedryf. Op 18 Maart 2018 is die eerste mens deur 'n outonome voertuig in Tempe, Arizona deur 'n Uber-selfbesturende motor doodgery.[13]

Uitwissing

[wysig | wysig bron]

Hoofartikel: Eksistensiële risiko van kunsmatige algemene intelligensie

Wetenskaplikes soos Stephen Hawking is vol vertroue dat bomenslike kunsmatige intelligensie fisies moontlik is, en sê "daar is geen fisiese wet wat verhoed dat deeltjies georganiseer word op maniere wat selfs meer gevorderde berekeninge uitvoer as die rangskikkings van deeltjies in menslike breine nie".[14][15] Geleerdes soos Nick Bostrom debatteer hoe ver bomenslike intelligensie is, en of dit 'n risiko vir die mensdom inhou. Volgens Bostrom sal 'n superintelligente masjien nie noodwendig gemotiveer word deur dieselfde emosionele begeerte om mag te versamel wat mense dikwels dryf nie, maar mag eerder mag behandel as 'n manier om sy uiteindelike doelwitte te bereik; die oorname van die wêreld sal beide sy toegang tot hulpbronne verhoog en help om te verhoed dat ander agente die masjien se planne stuit. As 'n oorvereenvoudigde voorbeeld, 'n skuifspeldmaksimeerder wat uitsluitlik ontwerp is om soveel skuifspelde as moontlik te skep, sal die wêreld wil oorneem sodat dit al die wêreld se hulpbronne kan gebruik om soveel skuifspelde as moontlik te skep, en boonop verhoed dat mense sluit. dit af of gebruik daardie hulpbronne op ander dinge as skuifspelde.[16]

In fiksie

[wysig | wysig bron]
Robotte kom in opstand in R.U.R., 'n Tsjeggiese toneelstuk uit 1920 wat vertaal word as "Rossum se Universele Robotte".

KI-oorname is 'n algemene tema in wetenskapfiksie. Fiktiewe scenario's verskil tipies baie van dié wat deur navorsers veronderstel is deurdat dit 'n aktiewe konflik tussen mense en 'n KI behels of robotte met antropomorfiese motiewe wat dit as 'n bedreiging beskou of andersins 'n aktiewe begeerte het om mense te beveg, in teenstelling met die navorsers se besorgdheid oor 'n KI wat mense vinnig uitroei as 'n neweproduk van die nastrewing van sy doelwitte.[17] Die idee word gesien in Karel Čapek se R.U.R., wat die woord robot in 1921 bekendgestel het,[18] en kan gesien word in Mary Shelley se Frankenstein (gepubliseer in 1818), terwyl Victor nadink of, as hy sy monster se versoek toestaan en hom 'n vrou maak , hulle sou voortplant en hulle soort sou die mensdom vernietig.[19]

Volgens Toby Ord is die idee dat 'n KI-oorname robotte vereis 'n wanopvatting wat deur die media en Hollywood gedryf word. Hy voer aan dat die mees skadelike mense in die geskiedenis nie fisies die sterkste was nie, maar dat hulle eerder woorde gebruik het om mense te oortuig en beheer oor groot dele van die wêreld te verkry. Hy skryf dat 'n voldoende intelligente KI met toegang tot die internet rugsteunkopieë van homself kan verstrooi, finansiële en menslike hulpbronne (via kuberaanvalle of afpersing) kan versamel, mense op groot skaal kan oorreed, en sosiale kwesbaarhede kan uitbuit wat te subtiel is vir mense om verwag.[20]

Die woord "robot" van R.U.R. kom van die Tsjeggiese woord, robota, wat arbeider of dienaar beteken. Die toneelstuk van 1920 was 'n protes teen die vinnige groei van tegnologie, met vervaardigde "robotte" met toenemende vermoëns wat uiteindelik in opstand kom.[21] HAL 9000 (1968) en die oorspronklike Terminator (1984) is twee ikoniese voorbeelde van vyandige KI in popkultuur.[22]

Bydraende faktore

[wysig | wysig bron]

Voordele van bomenslike intelligensie bo mense

[wysig | wysig bron]

Nick Bostrom en ander het kommer uitgespreek dat 'n KI met die vermoëns van 'n bekwame kunsmatige intelligensie-navorser in staat sal wees om sy eie bronkode te verander en sy eie intelligensie te verhoog. As sy selfherprogrammering daartoe lei dat dit selfs beter word om homself te herprogrammeer, kan die resultaat 'n rekursiewe intelligensie-ontploffing wees waarin dit vinnig menslike intelligensie ver agter sal laat. Bostrom definieer 'n superintelligensie as "enige intellek wat die kognitiewe prestasie van mense in feitlik alle domeine van belang grootliks oorskry", en noem 'n paar voordele wat 'n superintelligensie sou hê as dit sou verkies om teen mense mee te ding:[17][23]

  • Tegnologienavorsing: 'n Masjien met bomenslike wetenskaplike navorsingsvermoëns sal die menslike navorsingsgemeenskap tot mylpale soos nanotegnologie of gevorderde biotegnologie kan klop.
  • Strategiegewing: 'n Superintelligensie kan moontlik menslike opposisie bloot uitoorlê
  • Sosiale manipulasie: 'n Superintelligensie kan moontlik menslike ondersteuning werf,[17] of heimlik 'n oorlog tussen mense aanhits[24]
  • Ekonomiese produktiwiteit: Solank as wat 'n kopie van die KI meer ekonomiese rykdom as die koste van sy hardeware kan produseer, sal individuele mense 'n aansporing hê om vrywillig die Kunsmatige Algemene Intelligensie (KAI) toe te laat om 'n kopie van homself op hul stelsels te laat loop
  • Kuberkraking: 'n Superintelligensie kan nuwe uitbuitings vind in rekenaars wat aan die internet gekoppel is, en kopieë van homself op daardie stelsels versprei, of dalk geld steel om sy planne te finansier

Bronne van KI-voordeel

[wysig | wysig bron]

Volgens Bostrom kan 'n rekenaarprogram wat 'n menslike brein getrou naboots, of wat algoritmes bestuur wat so kragtig soos die menslike brein se algoritmes is, steeds 'n "spoedsuperintelligensie" word as dit baie ordes van grootte vinniger as 'n mens kan dink, a.g.v. om van silikon gemaak te word eerder as vlees, of as gevolg van optimalisering wat die spoed van die KAI verhoog. Biologiese neurone werk teen ongeveer 200 Hz, terwyl 'n moderne mikroverwerker teen 'n spoed van ongeveer 2,000,000,000 Hz werk. Menslike aksone dra aksiepotensiale teen ongeveer 120 m/s, terwyl rekenaarseine naby die spoed van lig beweeg.[17]

'n Netwerk van menslike vlak intelligensies wat ontwerp is om saam te netwerk en komplekse gedagtes en herinneringe naatloos te deel, in staat om gesamentlik as 'n reuse verenigde span sonder wrywing te werk, of bestaande uit triljoene menslike vlak intelligensies, sou 'n "kollektiewe superintelligensie" word.[17]

Meer in die breë, enige aantal kwalitatiewe verbeterings aan 'n menslike vlak KAI kan lei tot 'n "kwaliteit superintelligensie", wat miskien lei tot 'n KAI so ver bo ons in intelligensie as wat mense bo nie-menslike ape is. Die aantal neurone in 'n menslike brein word beperk deur kraniale volume en metaboliese beperkings, terwyl die aantal verwerkers in 'n superrekenaar onbepaald uitgebrei kan word. 'n KAI hoef nie beperk te word deur menslike beperkings op werkende geheue nie, en kan dus intuïtief meer komplekse verhoudings begryp as wat mense kan. 'n KAI met gespesialiseerde kognitiewe ondersteuning vir ingenieurswese of rekenaarprogrammering sal 'n voordeel in hierdie velde hê, in vergelyking met mense wat geen gespesialiseerde verstandelike modules ontwikkel het om spesifiek met daardie domeine te handel nie. Anders as mense, kan 'n KAI kopieë van homself skep en aan sy kopieë se bronkode peuter om te probeer om sy algoritmes verder te verbeter [17]

Moontlikheid van onvriendelike KI wat vriendelike KI voorafgaan

[wysig | wysig bron]

Is sterk KI inherent gevaarlik?

[wysig | wysig bron]

Hoofartikel: KI-belyning 'n Beduidende probleem is dat onvriendelike kunsmatige intelligensie waarskynlik baie makliker sal wees om te skep as vriendelike KI. Alhoewel beide groot vooruitgang in rekursiewe optimeringsproses-ontwerp vereis, vereis vriendelike KI ook die vermoë om doelstrukture onveranderlik te maak tydens selfverbetering (of die KI kan homself in iets onvriendeliks transformeer) en 'n doelstruktuur wat in lyn is met menslike waardes en nie instrumentele konvergensie ondergaan nie, op maniere wat outomaties die hele menslike ras kan vernietig nie. 'n Onvriendelike KI, aan die ander kant, kan optimeer vir 'n arbitrêre doelstruktuur, wat nie onveranderlik hoef te wees onder selfmodifikasie nie.[25]

Kans op konflik

[wysig | wysig bron]

Baie geleerdes, insluitend die evolusionêre sielkundige Steven Pinker, voer aan dat 'n superintelligente masjien waarskynlik vreedsaam met mense sal bestaan.[26]

Die vrees vir kubernetiese opstand is dikwels gebaseer op interpretasies van die mensdom se geskiedenis, wat wemel van voorvalle van verslawing en volksmoord. Sulke vrese spruit uit 'n oortuiging dat mededingendheid en aggressie nodig is in enige intelligente wese se doelwitstelsel. Sulke menslike mededingendheid spruit egter uit die evolusionêre agtergrond tot ons intelligensie, waar die oorlewing en voortplanting van gene in die aangesig van menslike en nie-menslike mededingers die sentrale doelwit was.[27] Volgens KI-navorser Steve Omohundro kan 'n arbitrêre intelligensie arbitrêre doelwitte hê: daar is geen spesifieke rede dat 'n kunsmatig intelligente masjien (wat nie die mensdom se evolusionêre konteks deel nie) vyandig – of vriendelik – sou wees, tensy sy skepper dit programmeer om so te wees en dit is nie geneig of in staat is om sy programmering te wysig nie. Maar die vraag bly: wat sou gebeur as KI-stelsels in wisselwerking kan tree en ontwikkel (evolusie in hierdie konteks beteken selfmodifikasie of seleksie en voortplanting) en moet meeding oor hulpbronne - sou dit doelwitte van selfbehoud skep? KI se doelwit van selfbehoud kan in stryd wees met sommige doelwitte van mense.[28]

Baie geleerdes betwis die waarskynlikheid van onverwagte kubernetiese opstand soos uitgebeeld in wetenskapfiksie soos The Matrix, en voer aan dat dit meer waarskynlik is dat enige kunsmatige intelligensie wat kragtig genoeg is om die mensdom te bedreig, waarskynlik geprogrammeer sal wees om dit nie aan te val nie. Pinker erken die moontlikheid van doelbewuste “slegte akteurs”, maar verklaar dat in die afwesigheid van slegte akteurs, onverwagte ongelukke nie ’n wesenlike bedreiging is nie; Pinker voer aan dat 'n kultuur van ingenieursveiligheid KI-navorsers sal verhoed om per ongeluk kwaadaardige superintelligensie te ontketen.[26] In teenstelling hiermee voer Eliezer Yudkowsky aan dat die mensdom minder geneig is om bedreig te word deur doelbewus aggressiewe KI's as deur KI's wat so geprogrammeer is dat hul doelwitte onbedoeld onversoenbaar is met menslike oorlewing of welstand (soos in die film I, Robot en in die kortverhaal "The Evitable Conflict"). Omohundro stel voor dat hedendaagse outomatiseringstelsels nie vir veiligheid ontwerp is nie en dat KI's blindelings smal nutsfunksies kan optimaliseer (sê, skaak speel ten alle koste), wat daartoe lei dat hulle selfbehoud en uitskakeling van struikelblokke soek, insluitend mense wat dit kan verander of af dit.[29]

Voorsorgmaatreëls

[wysig | wysig bron]

Hoofartikel: KI-beheerprobleem Die KI-beheerprobleem is die kwessie van hoe om 'n superintelligente agent te bou wat sy skeppers sal help, terwyl dit vermy word om per ongeluk 'n superintelligensie te bou wat sy skeppers sal benadeel.[30] Sommige geleerdes argumenteer dat oplossings vir die beheerprobleem ook toepassings kan vind in bestaande nie-superintelligente KI [31]

Belangrike benaderings tot die beheerprobleem sluit in belyning, wat daarop gemik is om KI-doelwitstelsels met menslike waardes in lyn te bring, en vermoëbeheer, wat daarop gemik is om 'n KI-stelsel se vermoë om mense te benadeel of beheer te verkry, te verminder. 'n Voorbeeld van "vermoëbeheer" is om na te vors of 'n superintelligensie-KI suksesvol in 'n "KI-boks" ingeperk kan word. Volgens Bostrom is sulke vermoëbeheervoorstelle nie betroubaar of voldoende om die beheerprobleem op lang termyn op te los nie, maar kan dit moontlik as waardevolle aanvullings op belyningspogings dien.[17]

Waarskuwings

[wysig | wysig bron]

Die fisikus Stephen Hawking, Microsoft-stigter Bill Gates en SpaceX-stigter Elon Musk het kommer uitgespreek oor die moontlikheid dat KI tot die punt kan ontwikkel dat mense dit nie kan beheer nie, met Hawking wat teoretiseer dat dit "die einde van die menslike ras kan uitspel".[32] Stephen Hawking het in 2014 gesê dat "Sukses met die skep van KI die grootste gebeurtenis in die menslike geskiedenis sou wees. Ongelukkig kan dit ook die laaste wees, tensy ons leer hoe om die risiko's te vermy." Hawking het geglo dat KI in die komende dekades "onberekenbare voordele en risiko's" kan bied, soos "tegnologie wat finansiële markte uitoorlê, menslike navorsers uitvind, menslike leiers uitmanipuleer en wapens ontwikkel wat ons nie eers kan verstaan nie." In Januarie 2015 het Nick Bostrom by Stephen Hawking, Max Tegmark, Elon Musk, Lord Martin Rees, Jaan Tallinn en talle KI-navorsers aangesluit om die Future of Life Institute se ope brief te onderteken waarin hy praat oor die potensiële risiko's en voordele verbonde aan kunsmatige intelligensie. Die ondertekenaars "glo dat navorsing oor hoe om KI-stelsels robuust en voordelig te maak beide belangrik en tydig is, en dat daar konkrete navorsingsrigtings is wat vandag gevolg kan word."[33][34]

Arthur C. Clarke se Odyssey-reeks en Charles Stross se Accelerando hou verband met die mensdom se narcistiese beserings in die gesig van kragtige kunsmatige intelligensies wat die mensdom se selfpersepsie bedreig.[35]

Voorkoming deur KI-belyning

[wysig | wysig bron]

Op die gebied van kunsmatige intelligensie (KI), is KI-belyningsnavorsing daarop gemik om KI-stelsels na mense se beoogde doelwitte, voorkeure of etiese beginsels te stuur. 'n KI-stelsel word as in lyn beskou as dit die beoogde doelwitte bevorder. 'n Misbelynde KI-stelsel streef sekere doelwitte na, maar nie die beoogde nie.[36]

Verwysings

[wysig | wysig bron]
  1. ↑ Lewis, Tanya (12 Januarie 2015). "Don't Let Artificial Intelligence Take Over, Top Scientists Warn". LiveScience. Purch. Geargiveer vanaf die oorspronklike op 8 Maart 2018. Besoek op 20 Oktober 2015. Stephen Hawking, Elon Musk en dosyne ander topwetenskaplikes en tegnologieleiers het 'n brief onderteken wat waarsku oor die potensiële gevare van die ontwikkeling van kunsmatige intelligensie (KI).
  2. ↑ Lee, Kai-Fu (24 Junie 2017). "The Real Threat of Artificial Intelligence". The New York Times. Geargiveer vanaf die oorspronklike op 17 April 2020. Besoek op 15 Augustus 2017. Hierdie "gereedskap" kan beter as mense presteer in 'n gegewe taak. Hierdie soort KI versprei na duisende domeine, en soos dit gebeur, sal dit baie werksgeleenthede uitskakel.
  3. ↑ Larson, Nina (8 Junie 2017). "AI 'good for the world'... says ultra-lifelike robot". Phys.org. Geargiveer vanaf die oorspronklike op 6 Maart 2020. Besoek op 15 Augustus 2017. Onder die gevreesde gevolge van die opkoms van die robotte is die groeiende impak wat hulle op menslike werk en ekonomieë sal hê.
  4. ↑ Santini, Jean-Louis (14 Februarie 2016). "Intelligent robots threaten millions of jobs". Phys.org. Geargiveer vanaf die oorspronklike op 1 Januarie 2019. Besoek op 15 Augustus 2017. " Ons nader 'n tyd wanneer masjiene in staat sal wees om byna enige taak beter as mense te vaar," het Moshe Vardi, direkteur van die Instituut vir Inligtingstegnologie aan die Rice Universiteit in Texas gesê.
  5. ↑ Williams-Grut, Oscar (15 Februarie 2016). "Robots will steal your job: How AI could increase unemployment and inequality". Businessinsider.com. Business Insider. Geargiveer vanaf die oorspronklike op 16 Augustus 2017. Besoek op 15 Augustus 2017. Top rekenaarwetenskaplikes in die VSA het gewaarsku dat die opkoms van kunsmatige intelligensie (KI) en robotte in die werkplek massawerkloosheid en ontwrigte ekonomieë kan veroorsaak, eerder as om bloot produktiwiteitswinste te ontsluit en ons almal vry te maak om TV te kyk en sport te speel.
  6. ↑ "How can SMEs prepare for the rise of the robots?". LeanStaff (in Engels (VSA)). 17 Oktober 2017. Geargiveer vanaf die oorspronklike op 18 Oktober 2017. Besoek op 17 Oktober 2017.
  7. ↑ Frank, Morgan (25 Maart 2019). "Toward understanding the impact of artificial intelligence on labor". Proceedings of the National Academy of Sciences of the United States of America. 116 (14): 6531–6539. Bibcode:2019PNAS..116.6531F. doi:10.1073/pnas.1900949116. PMC 6452673. PMID 30910965.
  8. ↑ Bond, Dave (2017). Artificial Intelligence. pp. 67–69.
  9. ↑ Skidelsky, Robert (19 Februarie 2013). "Rise of the robots: what will the future of work look like?". The Guardian. London. Geargiveer vanaf die oorspronklike op 3 April 2019. Besoek op 14 Julie 2015.
  10. ↑ Bria, Francesca (Februarie 2016). "The robot economy may already have arrived". openDemocracy. Geargiveer vanaf die oorspronklike op 17 Mei 2016. Besoek op 20 Mei 2016.
  11. ↑ Srnicek, Nick (Maart 2016). "4 Reasons Why Technological Unemployment Might Really Be Different This Time". novara wire. Geargiveer vanaf die oorspronklike op 25 Junie 2016. Besoek op 20 Mei 2016.
  12. ↑ Brynjolfsson, Erik; McAfee, Andrew (2014). "passim, see esp Chpt. 9". The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. W. W. Norton & Company. ISBN 978-0393239355.
  13. ↑ Wakabayashi, Daisuke (19 Maart 2018). "Self-Driving Uber Car Kills Pedestrian in Arizona, Where Robots Roam". New York Times. Geargiveer vanaf die oorspronklike op 21 April 2020. Besoek op 23 Maart 2018.
  14. ↑ Hawking, Stephen; Stuart Russell; Max Tegmark; Frank Wilczek (1 Mei 2014). "Stephen Hawking: 'Transcendence looks at the implications of artificial intelligence - but are we taking AI seriously enough?'". The Independent. Geargiveer vanaf die oorspronklike op 2 Oktober 2015. Besoek op 1 April 2016.
  15. ↑ Müller, Vincent C.; Bostrom, Nick (2016). "Future Progress in Artificial Intelligence: A Survey of Expert Opinion" (PDF). Fundamental Issues of Artificial Intelligence. Springer. pp. 555–572. doi:10.1007/978-3-319-26485-1_33. ISBN 978-3-319-26483-7. Geargiveer (PDF) vanaf die oorspronklike op 31 Mei 2022. Besoek op 16 Junie 2022. KI-stelsels sal ... algehele menslike vermoë bereik ... baie waarskynlik (met 90% waarskynlikheid) teen 2075. Van die bereiking van menslike vermoë, sal dit binne 30 jaar (75%) na superintelligensie beweeg ... Dus, (die meeste van die KI-kenners wat op die opnames reageer) dink dat superintelligensie waarskynlik oor 'n paar dekades sal kom ...
  16. ↑ Bostrom, Nick (2012). "The Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents" (PDF). Minds and Machines. Springer. 22 (2): 71–85. doi:10.1007/s11023-012-9281-3. S2CID 254835485. Geargiveer (PDF) vanaf die oorspronklike op 9 Julie 2022. Besoek op 16 Junie 2022.
  17. ↑ 17,0 17,1 17,2 17,3 17,4 17,5 17,6 Bostrom, Nick. Superintelligence: Paths, Dangers, Strategies.
  18. ↑ "The Origin Of The Word 'Robot'". Science Friday (public radio). 22 April 2011. Geargiveer vanaf die oorspronklike op 14 Maart 2020. Besoek op 30 April 2020.
  19. ↑ Botkin-Kowacki, Eva (28 Oktober 2016). "A female Frankenstein would lead to humanity's extinction, say scientists". Christian Science Monitor. Geargiveer vanaf die oorspronklike op 26 Februarie 2021. Besoek op 30 April 2020.
  20. ↑ Ord, Toby (2020). "Unaligned artificial intelligence". The precipice: existential risk and the future of humanity. london New York (N.Y.): Bloomsbury academic. ISBN 978-1-5266-0023-3.
  21. ↑ Hockstein, N. G.; Gourin, C. G.; Faust, R. A.; Terris, D. J. (17 Maart 2007). "A history of robots: from science fiction to surgical robotics". Journal of Robotic Surgery. 1 (2): 113–118. doi:10.1007/s11701-007-0021-2. PMC 4247417. PMID 25484946.
  22. ↑ Hellmann, Melissa (21 September 2019). "AI 101: What is artificial intelligence and where is it going?". The Seattle Times. Geargiveer vanaf die oorspronklike op 21 April 2020. Besoek op 30 April 2020.
  23. ↑ Babcock, James; Krámar, János; Yampolskiy, Roman V. (2019). "Guidelines for Artificial Intelligence Containment". Next-Generation Ethics. pp. 90–112. arXiv:1707.08476. doi:10.1017/9781108616188.008. ISBN 9781108616188. S2CID 22007028.
  24. ↑ Baraniuk, Chris (23 Mei 2016). "Checklist of worst-case scenarios could help prepare for evil AI". New Scientist. Geargiveer vanaf die oorspronklike op 21 September 2016. Besoek op 21 September 2016.
  25. ↑ Yudkowsky, Eliezer S. (Mei 2004). "Coherent Extrapolated Volition". Singularity Institute for Artificial Intelligence. Geargiveer vanaf die oorspronklike op 15 Junie 2012.
  26. ↑ 26,0 26,1 Pinker, Steven (13 Februarie 2018). "We're told to fear robots. But why do we think they'll turn on us?". Popular Science (in Engels). Geargiveer vanaf die oorspronklike op 20 Julie 2020. Besoek op 8 Junie 2020.
  27. ↑ Creating a New Intelligent Species: Choices and Responsibilities for Artificial Intelligence Designers Geargiveer 6 Februarie 2007 op Wayback Machine - Singularity Institute for Artificial Intelligence, 2005
  28. ↑ Omohundro, Stephen M. (June 2008). "The basic AI drives" in Artificial General Intelligence 2008.: 483–492. 
  29. ↑ Tucker, Patrick (17 April 2014). "Why There Will Be A Robot Uprising". Defense One. Geargiveer vanaf die oorspronklike op 6 Julie 2014. Besoek op 15 Julie 2014.
  30. ↑ Russell, Stuart J. (8 Oktober 2019). Human compatible : artificial intelligence and the problem of control. ISBN 978-0-525-55862-0. OCLC 1237420037. Geargiveer vanaf die oorspronklike op 15 Maart 2023. Besoek op 2 Januarie 2022.
  31. ↑ "Google developing kill switch for AI". BBC News. 8 Junie 2016. Geargiveer vanaf die oorspronklike op 11 Junie 2016. Besoek op 7 Junie 2020.
  32. ↑ Rawlinson, Kevin (29 Januarie 2015). "Microsoft's Bill Gates insists AI is a threat". BBC News. Geargiveer vanaf die oorspronklike op 29 Januarie 2015. Besoek op 30 Januarie 2015.
  33. ↑ "The Future of Life Institute Open Letter". The Future of Life Institute. 28 Oktober 2015. Geargiveer vanaf die oorspronklike op 29 Maart 2019. Besoek op 29 Maart 2019.
  34. ↑ Bradshaw, Tim (11 Januarie 2015). "Scientists and investors warn on AI". The Financial Times. Geargiveer vanaf die oorspronklike op 7 Februarie 2015. Besoek op 4 Maart 2015.
  35. ↑ Kaminski, Johannes D. (Desember 2022). "On human expendability: AI takeover in Clarke's Odyssey and Stross's Accelerando". Neohelicon (in Engels). 49 (2): 495–511. doi:10.1007/s11059-022-00670-w. ISSN 0324-4652. S2CID 253793613.
  36. ↑ Russell, Stuart J.; Norvig, Peter (2020). Artificial intelligence: A modern approach (4th uitg.). Pearson. pp. 31–34. ISBN 978-1-292-40113-3. OCLC 1303900751. Geargiveer vanaf die oorspronklike op 15 Julie, 2022. Besoek op 12 September 2022. {{cite book}}: Gaan datum na in: |archive-date= (hulp)
Ontsluit van "https://af.wikipedia.org/w/index.php?title=KI-oorname&oldid=2676358"