Hvis du kommer til meg, kommer du best til rette, eller jeg vil slå ditt svake lille argument rundt som en katt som leker med en ball.

Først av alt, jeg leste den.

For det andre har jeg glemt flere akademiske artikler om AI enn du vil lese i hele livet.

For det tredje appellerer du til en irrelevant autoritet som skrev en popfilosofibok. Jeg likte det som grist for min sci-fi, og det handler om det. Ikke kom til meg med dine logiske feil.

For det fjerde, hvis du leser folk som faktisk jobber med AI, ville du vite at AI ikke fungerer noe som det han beskriver og Bostrom gjør en undersøkelse om hva folk mener ikke er vitenskapelig analyse. Det er en spøk. Selv de freaking gutta som jobbet for Musk på OpenAI ikke kjøper superintelligensen vil drepe oss alle argument.

Her er hva faktiske AI-forskere hadde å si om Bostrom og spørsmålet om når superintelligens kommer med:

https://www.technologyreview.com/s/602410/no-the-experts-dont-think-superintelligent-ai-is-a-threat-to-humanity/

“” Vei, vei, måte mer enn 25 år. Århundrer mest sannsynlig. Men aldri.

"Vi konkurrerer med millioner av års utvikling av den menneskelige hjernen. Vi kan skrive engangsprogrammer som kan konkurrere med mennesker, og noen ganger utmerke seg, men verden er ikke pent oppdelt i spørsmål med ett problem. ”

“Nick Bostrom er en profesjonell skremselmann. Instituttets rolle er å finne eksistensielle trusler mot menneskeheten. Han ser dem overalt. ”

Folk har drømt om eksistensielle trusler siden vi krøp ut av sumpen. Først var det torden. Da var det Rain God som ble sint på oss hvis vi ikke danset om åkeren eller ofret en geit til rett tid. Da var det sprukne skilpaddeskjeller som fortalte keiseren at noe dårlig skulle skje. Da var det industrialisering. Vi elsker store prangende trusler. Nå har vi super-AI.

Hvis du vil skrive en populær bok, er det bare å velge en eksistensiell trussel du liker, det være seg romvesener, meteorer, Gud er sint på oss eller superintelligent AI, og du kan selge den til en million idioter. Men du kan ikke selge den dritten rundt her og snakke som det er akademisk forskning. Det er ikke. Det er en dommedagskult. Og det er ikke nytt uansett hvordan du kler det ut i pseudovitenskapelig forskning og domenespesifikt språk som får deg til å føle deg mer intelligent enn du er. Det er ett skritt opp fra Heaven's Gate.

Vi er fryktbaserte skapninger, og hvis du vil selge frykt, vil du alltid finne kjøpere. Det er en grunn til at Steven King er en av de største forfatterne i verden.

For det femte, hvordan foreslår du å løse det ikke eksisterende problemet? Lovgivning? Jeg er sikker på at Kina vil gjøre noe med den loven og ikke fortsette å forfølge den. Jeg er sikker på at de superintelligente AI-ene vil bry seg om de skulle få opptreden på scenen.

For det sjette, mens du bekymrer deg for fjerne eksistensielle trusler som ikke er reelle, har vi ekte AI-er som setter folk i fengsel, bestemmer om du får lån eller ikke og kjører biler. Det er på tide å bekymre deg for de virkelige problemene vi kan takle nå i stedet for fantasiproblemer som ikke har noen løsninger, og bare mate fryktfeilen.