ChatGPT deelt urenlang nonsens door bug

Kunnen we over bakkeleien. Colfusion op YT had pas een leuke video over Sora AI.

De ontwikkeling naar AI-gegenereerde video is idd snel gegaan, alhoewel de mate van echtheid net als bij afbeeldingen nogal hit-and-miss is.
Maar meerdere kopstukken bij grote AI bedrijven zeggen dat we nog ver verwijderd zijn van General AI. GAI vereist oa een World Model, en dat is een stuk lastiger dan een taal model.

World Science Festival 2023
gepresenteerd door Brian Greene
AI: Grappling with a New Kind of Intelligence
https://www.youtube.com/watch?v=EGDG3hgPNp8&t=453s
Yann LeCun (Professor at New York University, VP & Chief AI Scientist at Meta)
Sébastien Bubeck (sr partner & research manager at Microsoft Research)

Was het nog zo in de jaren 70 en 80 dat onze voorspellingen vaak te snel waren zijn ze tegenwoordig vaak te langzaam. Wat dat betreft lijkt technologische ontwikkeling via een hyperbool te gaan. Het begon wat langzaam maar lijkt steeds sneller te gaan.

Sommige ontwikkelingen idd, maar andere niet zo. Zie bvb het vertragen vd Wet v Moore, inmiddels zodanig dat men noodgedwongen de focus verlegd van kleiner en sneller maken naar reduceren van opgenomen vermogen.
In het algemeen is het niet zo dat als iets in een bepaalde periode exponentieel groeit, het dus altijd exponentieel zal blijven groeien. Integendeel: de wetmatigheid is eerder dat groei traag begint, dan een tijd versneld, en daarna weer afneemt.

Toegegeven, Ai die zichzelf succesvolle sanity checks geeft is wat anders dan AI die succesvol een foto veranderd in een enigszins goed bekijkbare video. Maar het valt aan te raden om niet al te pessimistisch te zijn. Was het nog zo in de jaren 70 en 80 dat onze voorspellingen vaak te snel waren zijn ze tegenwoordig vaak te langzaam. Wat dat betreft lijkt technologische ontwikkeling via een hyperbool te gaan. Het begon wat langzaam maar lijkt steeds sneller te gaan.

Zoek een beetje het midden op zou ik zeggen: wees ook niet tè optimistisch...Ik zeg altijd (en dat blijf ik nog wel even zeggen) "het is en blijft een domme computer die geen idee heeft wat ie doet". En dat zie je ook weer aan die storing: hij heeft geen idee dat ie onzin uitkraamt omdat het 'm totaal niets zegt. En dat duidt erop dat het ook helemaal geen intelligentie is, maar 'gewoon' een algoritme dat passende zinnetjes bij elkaar grabbelt (gross over-simplification, I know).
Het is fenomenaal wat ChatGPT kan (maar dat kon Watson een jaar of 12 geleden tot op zekere hoogte ook al) en ook Sora is waanzinnig goed. Maar dat ding weet niet wat ie aan het genereren is, anders had ie in de gaten dat ie gekke handen maakt of mensen heel gek laat moonwalken.

Ik ga er geen termijn aan hangen, maar het werk dat gedaan wordt is echt baanbrekend op dit moment, maar ik wil het nog geen 'all purpose AI' noemen. En dat is waar we heel lang geleden, toen men net met AI begon, ook al was (alleen zijn we nu op een hoger nivo): expertsystemen. We kunnen momenteel heel goed een AI systeem maken dat bv wetenschappers kunnen helpen met onderzoek door bv duizenden research papers door te spitten op zoek naar overeenkomsten, verschillen of rlevante experimenten. Dat kan ie in de tijd dat het ons kost om naar de bibliotheek te lopen. Geweldig! Of een systeem dat een arts helpt met het stellen van diagnoses omdat ie toegang heeft tot de hele wereld aan medische kennis, research en miljarden diagnoses. Idem voor juridische zaken. Dus als research tool, hulp aan studenten en weet ik wat nog allemaal. Maar inzetten als een algemeen Orakel zie ik nog niet zo. En wat 'we' moeten doen is aub de huidige generatie studenten goed begeleiden in het gebruik van deze technologie en ze het niet (helemaal) zelf laten uitzoeken, want anders loop je het risico dat ze het voornamelijk maar gaan gebruiken als huiswerkmachine. En dat is zonde. Met ChatGPT kun je je huiswerkopgavem, werkstukken, scripties e.d. heel mooi uitbreiden, verdiepen en veel meer doen dan nu. Dat is veel productiever dan alleen maar de antwoorden te vragen. Daar leer je niets van.
Ik heb geen kinderen, maar ik zie dat veel van mijn generatiegenoten (1965) zich nooit echt met computers hebben bemoeid en daardoor hun kinderen nooit konden helpen met de goede weg te vinden. En dat is een gemiste kans geweest, want hoewel zij dachten dat hun kinderen erg goed waren met computers, zijn de meesten voornamelijk goed in het bedienen van chat apps en insta. Verder weten ze 0,0. Dus laten we diezelfde fout niet nog een keer maken. Met al die smartphones heb je de collectieve kennis van de hele mensheid in handen, vooral nu met al die AI apps. Leer dat goed gebruiken, dan wordt je geen slaaf van dat ding en kun je nog iets als de stroom uitvalt zeg maar

ChatGPT 4 geeft bij mij de volgende beredenering (correct ook):

Om de code te vinden, laten we de getallen in de code aanduiden als A, B, C, en D. Volgens de aanwijzingen in het raadsel hebben we de volgende voorwaarden:

1. \(A + B = 5\)
2. \(C < B\)
3. \(D = B\)
4. \(A + B + C + D = 7\)

Vanuit voorwaarde 1 weten we dat \(A + B = 5\), en voorwaarde 4 vertelt ons dat de som van alle getallen \(7\) is. Omdat \(D = B\), kunnen we de vierde voorwaarde herschrijven met de informatie uit de eerste voorwaarde:

\(5 + C + B = 7\)

Nu kunnen we de waarden van A, B, C, en D oplossen. Laten we beginnen met de gegeven voorwaarden.

De oplossingen geven ons de relaties \(A = 5 - B\) en \(C = 2 - D\). Echter, aangezien we nog niet direct de waarden van \(B\) en \(D\) hebben, en met de informatie dat \(D = B\), kunnen we deze informatie gebruiken om de waarden van alle getallen te vinden. We hebben ook de aanwijzing dat \(C < B\).

Laten we deze informatie gebruiken om de specifieke waarden voor \(A\), \(B\), \(C\), en \(D\) te vinden, rekening houdend met dat \(C = 2 - B\) (gebaseerd op de aangepaste voorwaarde \(C = 2 - D\) en \(D = B\)).

De geldige oplossingen voor de code, gebaseerd op de gegeven aanwijzingen, zijn als volgt:

1. \(A = 3\), \(B = 2\), \(C = 0\), \(D = 2\), wat resulteert in de code 3202.
2. \(A = 2\), \(B = 3\), \(C = -1\), \(D = 3\), maar deze oplossing is niet geldig omdat \(C\) niet negatief kan zijn in de context van een 4-cijferige code.
3. \(A = 1\), \(B = 4\), \(C = -2\), \(D = 4\), maar ook deze oplossing is niet geldig om dezelfde reden als hierboven.

Daarom is de enige geldige oplossing die voldoet aan alle voorwaarden van het raadsel: **3202**.

Want dat.maakt het wel beter?

Nogmaals, jij hebt zelf een definitie bepaald van wat AI is, een technologie die al best lang bestaat. Iedereen probeer zelf te bepalen wat AI is, dus het is echt geen persoonlijk verwijt, meer een constatering . Door onder andere de filmindustrie zijn we daar ineens allerlei andere invullingen aan gaan geven. Prima, maar het is een blijft allemaal binnen het veld van AI passen. Dat het allemaal minder fancy is dan skynet, robocop, war games, Data, kitt, iRobot enz zal best, maar dat is niet de schuld van een term die al heel lang in de industrie bestaat.

Waar mensen in de war raken is denk ik het verchil tussen AGI en AI. LLMs zoals ChatGPT lijken wellicht op AGI omdat je ze vragen kunt stellen over welk onderwerp dan ook, maar dat zijn ze niet.

"Intelligent" zijn ze wel, oftwel AI. Denk bijvoorbeeld aan de bots in oude spellen, dat kun je al AI noemen. Zeer rudimentair maar toch valt het voor zo ver ik weet onder dezelfde noemer.

Fair enough. Het is in dat opzicht een vorm van intelligentie. Of in ieder geval LIJKT het op intelligentie, maar inderdaad niet op menselijk intelligentie.

Je antwoord kan wel afwijken, de essentie van het antwoord verandert niet (tenzij je liegt natuurlijk).

Als je 2 IQ testen voorschotelt met dezelfde vragen maar anders gesteld komt er een verschil van bijna 15 IQ punten uit. Dat is niet uit te leggen door simpelweg iets anders geformuleerde antwoorden.

Er is niet voor niets een hele sub-industrie om te "leren prompten".

Je hebt gelijk - het ging mij meer om de beperkte omschrijving; net alsof alleen mensen intelligent gedrag vertonen ("als mensen denken" en "menselijk gedrag") .

En een systeem hoeft niet altijd anorganisch te zijn.