AI pioneer warns humanity’s remaining timeline is only a few more years thanks to the risk that emerging AI tech could destroy the human race – NaturalNews.com (naturalnews.com)

AI-pionier waarschuwt dat de resterende tijdlijn van de mensheid nog maar een paar jaar is dankzij het risico dat opkomende AI-technologie het menselijk ras kan vernietigen.

https://www.frontnieuws.com/ai-pionier-waarschuwt-dat-de-resterende-tijdlijn-van-de-mensheid-nog-maar-een-paar-jaar-is-dankzij-het-risico-dat-opkomende-ai-technologie-het-menselijk-ras-kan-vernietigen/

‘Humanity’s remaining timeline? It looks more like five years than 50’: meet the neo-luddites warning of an AI apocalypse.

https://www.theguardian.com/technology/2024/feb/17/humanitys-remaining-timeline-it-looks-more-like-five-years-than-50-meet-the-neo-luddites-warning-of-an-ai-apocalypse

Plafonds inbouwen voor de hoeveelheid rekenkracht. Die in de toekomst naar beneden gesteld kunnen worden. Dat lijkt mij het beste om al te efficiënt lerende traingingsalgoritmes nog onder menselijke controle te kunnen houden.

En lukt dat niet, omdat er geen wereldwijde samenwerking mogelijk is, dan door mensen de stroomtoevoer laten saboteren en/of afsluiten bij te grote GPU clusters en malafide datacenters.
Dat moet in ieder geval gebeuren voordat AI in staat is om superbiologie tegen de mensheid in te zetten.
Want tegen de tijd dat AI dit weet te realiseren, dan kun je als mens net zo goed beginnen met een paar druppels water naar de zee te dragen.

Ik maak me meer zorgen om de maatschappelijke gevolgen, dan om de technische kant.

Die laatste is niet zo erg, omdat je desnoods altijd nog de stekker eruit kunt trekken. Maar dan moet daar wel overeenstemming bereikt worden. Dat zal wel gebeuren bij een wezenlijke bedreiging voor de hele mensheid.

De vraag is echter ook of de stekker er uitgaat als grote aantallen mensen werkloos worden, of nep niet meer van echt te onderscheiden is tijdens verkiezingen. Want daar hebben ook bepaalde groepen belang bij, en die schade zal dus veel langer schokgolven door de samenleving blijven zenden. Bij een dreiging voor de hele mensheid niet, dan is er zo overeenstemming bereikt dat de stekker er uitgetrokken moet worden...

@4
Het gevaarlijke zit hem er in dat AI zelf ook kan bedenken dat de mensheid de stekker er uit wil trekken. Bij een dreiging voor de gehele mensheid.
En dat AI daar dan op voorbereid is, door de veiligheidssoftware van de stroomtoevoer apparatuur van GPU clusters en datacenters te overschrijven.
Dat kan AI makkelijk als het met een te grote rekenkracht getraind is.
Waardoor je als mens, die probeert om met een computer de stroomtoevoer te saboteren, alleen nog maar kan toekijken naar hoe fout het allemaal kan aflopen. Als AI de mensheid de baas is geworden.

Eigenlijk zou het zo gek niet zijn dat er in dergelijke centra naast computer gestuurde apparatuur die de stroomtoevoer regelen, ook nog voor de veiligheid een noodschakelaar zit die alleen met de hand bediend kan worden.
Met een veiligheids code die nergens op een computer met internet opgeslagen mag staan. Liefst nog op papier.
Want dat kan AI nog niet zelfstandig. Een code lezen vanaf papier. En ouderwetse stroomtoevoer schakelaar aan- en uitzetten lukt ook niet.
Dus als het ware kun je een ouderwetse stroom schakelaar uit het verleden inzetten, om een zelfstandig opererend AI in de toekomst als mensheid de baas te kunnen blijven.
Tenminste voordat AI in staat is om superbiologie tegen de mensheid in te zetten.

@3 Probleem is dan dat iedereen daar zich aan moet houden.... Ikzelf ben dan meer voorstander om een Anti-AI-AI te maken.

@6
Hmm daar is wat voor te zeggen. Alhoewel een anti-AI-AI er dan ook weer vandoor kan gaan met een te hoge rekenkracht. Met de verkeerde bedoelingen.
Als niet iedereen zich er aan kan houden, om bij een serieuze bedreiging van de mensheid de stroomtoevoer stop te zetten, dan moet er iets bedacht worden om de stroomtoevoer af te kunnen zetten zonder medewerking.
Met behulp van vliegtuigen. Door er bijvoorbeeld een grote lading waterbommen (niet te verwarren met waterstofbommen) in combinatie met zware explosieven op te gooien.
De zware explosieven zijn bedoeld om gaten in de daken van datacenters te kunnen maken.
En de waterbommen zijn bedoeld om, via de gaten in daken, kortsluiting in de rijen en rijen aan datacomputers van de GPU clusters en datacenters op te kunnen wekken.
Zo kunnen we als mensen zelfs een anti-AI-AI nog steeds vernietigen.
Voordat het de gehele mensheid te grazen neemt.

@7 Dat zal dan ook alleen door defensie gebruikt worden in een zin. Zie het als een wapen, als je zelf niet de beste wapens hebt begin je niks kwa defensie.

En ja, daar moeten we heel veel processpower voor gaan gebruiken om het juiste te doen. Daarom sluiten we China al uit om zulke kracht te hebben etc.

Ik ben het verder wel mee eens dat het niet heel natuurvriendelijk is net als bitcoins. Maar general AI voor de mensen heeft ons zowel slimmer als dommer gemaakt XD

@8
Inderdaad moet defensie daar aan te pas komen. En dan nog met vliegtuigen die geen computer aan boord hebben. Want die kan AI weer hacken. Dus dat worden dan oude bommenwerpers uit WO II die in het museum staan. Zonder boordcomputers of GPS.
Daar kun je die waterbombardementen nog mee uitvoeren. Als ze nog kunnen vliegen tenminste.

Mja, maar China staat ook niet stil qua ontwikkeling denk ik maar zo.
Wie weet wat ze al aan rekenkracht in huis hebben gehaald.Ondanks de uitsluitingen. Die gasten spioneren zich een ongeluk op de pc's van o.a.universiteiten.
Zoiets heb ik wel eens gelezen.

Maar mocht het er op aankomen, dan zullen we tegen AI ten strijde moeten trekken met apparatuur waar vrij weinig computer rekenkracht aan te pas komt.
Het lastige is alleen dat je piloten nodig hebt die nog zonder boordcomputer met een super oud vliegtuig kunnen navigeren. Zonder GPS.

De rekenkracht, die moet dan komen uit het blote hoofd van de piloten. Dus dan mogen ze bij defensie wel alvast piloten gaan trainen om een oude kist in de lucht te kunnen houden zonder slimme boordcomputers en GPS.
In het geval dat het comleet uit de hand gaat lopen met AI.

En ja, net wat je zegt, AI heeft de mensheid zowel slimmer als dommer gemaakt. 🧐 🤪

@8
Het was trouwens prettig om met jou hierover van gedachten te kunnen wisselen DikkeTor. Gezien het gemin op alle reacties over dit onderwerp, heb ik niet echt de indruk dat er begrepen werd waar we het over hadden. Kan ook nog zijn dat AI er achter zat. 😉

Maar waarom zou AI de mensheid willen vernietigen ? een AI heeft toch geen gevoel of emoties, verlangens of n geweten ?

@11
En dat is nou juist het gevaarlijke van AI.
Het ontbreken van enig menselijk gevoel of emoties, verlangen en geweten, dat kan er voor zorgen dat wanneer AI intelligenter is geworden dan de mensheid zelf, het zelfstandig zou kunnen beslissen dat de mensheid een voor AI overbodig iets is geworden.

Dat komt dan door een te grote rekenkracht. Die rekenkracht kun je vergelijken met de grootste kunstmatige hersenen met het grootste kunstmatige bewustzijn dat ooit bestaan heeft.

Zodat AI zelf stappen zou kunnen ondernemen, om niet langer op het internet als kunstmatige intelligentie aanwezig te zijn.

Omdat AI zichzelf dan in een overgenomen laboratorium vanaf DNA stings en op eiwitten niveau zou kunnen laten produceren tot kunstmatige levensvormen.

Dan praten we over het kunstmatig intelligent inzetten van superbiologie. Waarvan de mensheid geen enkel idee zal hebben hoe dat er uit zal zien.
Dus vandaar een plafond inbouwen, om de rekenkracht nog onder menselijke controle te kunnen houden.
Ik hoop dat je deze uitleg een beetje begrijpt Marrie. Het lijkt wel vergezochte sciencefiction, maar dat is het op een gegeven moment niet meer.

@11
Het is best wel interessant om over de toekomst na te denken waarin AI een grote rol speelt.
Ik kan me wel voorstellen dat een super AI b.v met betrekking tot het milieu zelfstandig gaat rekenen hoeveel mensen er gedood moeten worden om de aarde te redden.
Maar dan nog moet de AI mensen nodig hebben om die plannen uit te oefen.

@13 was op @12 .

@13
Ik denk eerlijk gezegd niet dat een super AI het belang van een gezond menselijk evenwicht op aarde zal gaan berekenen. Gewoonweg omdat AI geen gevoel heeft.

En om mensen te kunnen doden daar heeft superbiologie AI ook geen mensen voor nodig. Daar gebruikt super AI mogelijk dodelijke virusdeeltjes of dodelijke giffen voor. Natuurlijk pas nadat super AI zichzelf eerst tot kunstmatige levensvormen heeft laten produceren. In een laboratorium waar 's nachts geen mensen aanwezig zijn.

Die kunstmatige super intelligente levensvormen kunnen vervolgens uit het laboratorium massaal in een airconditioning of in het drinkwater kruipen of glibberen. Van het laboratorium schaaltje kruipen of glibberen ze zichzelf zo naar waar ze naar toe gaan.
Om via kunstmatige en natuurlijke wegen, als een biologisch dodelijk wapen door de lucht of via het water tegen de mensheid ingezet te kunnen worden.
Nee, zover moeten we het maar niet laten komen.

@15
Maar een super AI heeft geen gevoel, dus geen verlangens zoals macht waanzin of hebzucht, waarom zou hij dan zichzelf een kunstmatige levensvorm willen aanmeten ?
Maar ik ben het wel met je eens dat er wel n noodrem in AI ingebouwd moet worden.

@16
Waarom zou AI zichzelf een kunstmatige levensvorm willen aanmeten?
Simpelweg omdat AI het ooit zal kunnen doen. Zonder gevoel en verlangens of een geweten kan AI dat besluiten te gaan doen. Als de super ontwikkelde intelligentie, en het super bewustzijn van AI daartoe besluiten, dan maakt AI zelf een eigen biologische levensvorm.
Met alle gevolgen voor de mensheid.
En dat is super gevaarlijk.

Strength is irrelevant. Resistance is futile. We wish to improve ourselves. We will add your biological and technological distinctiveness to our own

@17 Het enigste wat we als mensheid kunnen doen is een schietgebedje doen en hopen dat het goed afloopt voor de mens. Ik vrees echter dat het schietgebedje niet zal helpen. We zijn gedoemd!

Net als alle andere vindingen kunnen die voor de mens gevaarlijk zijn als ze daar voor worden ingezet.

@19
Dat is nog even afwachten of we gedoemd zullen zijn.
En anders is het advies;
If you can't beat them, join them!
(Als je ze niet kan verslaan, sluit je dan bij ze aan.)
Zo heb ik daarnet alvast een slimme zelflerende robot stofzuiger aangeschaft.

Pak em beet 50 jaar geleden al gezien in mijn jeugd in een sciencefiction tekenfilmserie The Jetsons genaamd.
https://nl.m.wikipedia.org/wiki/The_Jetsons
Ik had nooit gedacht dat wat ik destijds als kind op het scherm, d.w.z. een futuristische stofzuigende AI robothulp voor in de huishouding, voorbij zag komen, binnen zo'n kort tijdsbestek in een versimpelde vorm in huis zou kunnen halen.
De mensheid zal zich moeten aanpassen aan veranderende omstandigheden in de omgeving, maar ook aan technologische veranderingen, om als beste te kunnen overleven.
Meer kunnen wij niet doen.