Techtopia #265: Er ChatGPT bare din fulde onkel?

19. december 2022 kl. 12:0018
Techtopia #265: Er ChatGPT bare din fulde onkel?
Illustration: Ingeniøren.
OpenAI’s imponerende chatbot fik på fem dage en million brugere. Den har svar parat på næsten alt – men ligesom hos din alvidende onkel er det nogle gange nødvendigt med et faktacheck.
Artiklen er ældre end 30 dage

 

Illustration: Teknologiens Mediehus.

Abonnér på Techtopia

Klik her for at abonnere på podcasten.

Du kan også søge på ‘Techtopia’ i din foretrukne podcast-app. På iPhone findes den som standard, men til Android-telefoner er der flere apps at vælge imellem. Et eksempel er Podcast Republic, der er et gratis program, som kan downloades via Google Play.

Podcasten er lavet i samarbejde mellem IDA og Ingeniøren.

Den er sponsoreret af en række partnere: IBM, KMD, DI Digital, MCH Messecenter Herning og IDA Forsikring.

Du kender måske din fulde onkel? Ham, der altid har et svar på alting til en familiekomsammen. Han slår alle i Trivial Pursuit, kan hjælpe med at skrive stil og jorde alle i en diskussion.

Men du ved også, at alt hvad din fulde onkel siger, skal man tage med et gran salt. For nok ved han meget, men han er også lidt af en bluffer. Så svar hentet hos ham skal lige checkes en gang mere, men forbløffende ofte holder de vand.

ChatGPT er lidt som din fulde onkel. En chatbot baseret på en enorm mængde data, så den kan svare på næsten alt mellem himmel og jord samt løse opgaver for både studerende og programmører. ChatGPT er udviklet af det amerikanske firma OpenAI og fik på bare fem dage én million brugere på internettet. De har sat chatbotten til at skrive madopskrifter, noveller, sange, taler og computerkode.

Techtopia hilser på din fulde onkel, der kan meget mere, end du lige havde regnet med – lige bortset fra at skrive vittigheder.

Artiklen fortsætter efter annoncen

Medvirkende:

  • Kasper Junge, data scientist, Ekstrabladet

  • Ole Tange, politisk rådgiver, Prosa

Link:

Læs også: Techtopia #264: Når chefens AI kigger dig over skulderen

Kom gerne med dine bud på, hvilke emner vi skal tage op.

Du kan finde alle episoder af Techtopia HER.

18 kommentarer.  Hop til debatten
Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
17
16. januar kl. 02:42

Det er muligt at ChatGPT lige nu kun løser rutineopgaver, men med Kasparov og Moores lov in mente: hvor mon teknologien er henne om 25 år? Jeg tror at denne teknologi kan gøre rigtigt mange af os arbejdsløse, medens dem der skummer fløden er de (meget) få der ejer denne teknologi. Jeg syntes at det er ski.. uhyggeligt.

Det mest uhyggelige er, hvis teknologien begynder at udvikle teknologier til sig selv - og ikke til mennesker, for så den ikke har brug for mennesker til at aftage det den laver mere. Så længe den har brug for mennesker, til at aftage det den finder på, så skal den nok finde på at aflevere pengene retur, så det er muligt at få gang i omsætningen.

16
15. januar kl. 14:54

Petter Bertram, da jeg læste beskrivelsen af, hvordan den havde løst cirklens kvadratur, tænkte jeg: “Det kan ikke være rigtigt!”.

Men der var alligevel en tvivl, der nagede, for nogle gange sker der jo nye udviklinger, jeg ikke har hørt om.

Så jeg gik på dsn.dk for at få et svar fra den autoritative kilde. Og til min lettelse er svaret:

Nej, lineal kan ikke staves “linjal”.

15
15. januar kl. 14:25

Da jeg nu før fik forkerte svarpå Ing´s ugentlige opgaver fra https://chat.openai.com/chat, og senere på en ret simpel ligning, valgte jeg at "straffe" chat-robotten, ved at bede den løse cirklens kvadratur. Det gjorde den forbløffende hurtigt :

Petter: OK, men så skal du også løse cirklens kvadratur !

Chatbot: Cirklens kvadratur er en metode til at tegne en cirkel ved hjælp af geometriske værktøjer som linjal og passer. Det er en teknik, der blev brugt i fortiden, før man havde adgang til avancerede tegneprogrammer og teknologier.

Trinene for at løse cirklens kvadratur er:

Brug en linjal til at tegne en diameter af cirklen. Diameter er den linje, der går gennem midten af cirklen og skærer den i to lige store dele.

Brug en passer til at tegne en ret linje fra den ene ende af diameteren til et punkt på cirklen.

Brug en anden ret linje, der er vinkelret på den første linje, til at skære cirklen. Dette skæringspunkt vil være cirklens center.

Brug en linjal til at tegne radius fra cirklens center til en punkt på cirklen.

Brug en passer til at tegne en komplet cirkel ved hjælp af radius som radius.

Som du kan se er det en proces der kræver brug af geometriske værktøjer og kræver en vis ekspertise i at tegne og forstå geometri. Jeg kan give dig detaljerede trin-for-trin instruktioner, hvis det er det du ønsker.

Petter: Jegvil gerne have detaljer

Chatbot: Så her er et eksempel på trinene for at tegne en cirkel ved hjælp af cirklens kvadratur metode:

Brug en linjal til at tegne en diameter på papiret. Lad os antage at diameteren er 6 cm lang.

Brug en passer til at tegne en ret linje fra den ene ende af diameteren til et punkt på cirklen. Lad os sige at dette punkt er 3 cm fra midten af diameteren.

Brug en anden ret linje, der er vinkelret på den første linje, til at skære cirklen. Dette skæringspunkt vil være cirklens center.

Brug en linjal til at tegne radius fra cirklens center til et punkt på cirklen. Radius er 3 cm.

Brug en passer til at tegne en komplet cirkel ved hjælp af radius som radius.

Det er vigtigt at bemærke, at målingene skal være nøjagtige, og linjerne skal være strakte for at opnå en korrekt cirkel. Det kan tage øvelse og træning at blive god til at tegne en cirkel ved hjælp af denne metode.

Hvis du er interesseret i at lære mere om cirklens kvadratur metode, kan du finde flere oplysninger i bøger om geometri og tegning eller ved at se på video tutorials online.

Petter: Jeg mener ellers at Cirklens kvadratur er en konstruktionsopgave, hvor man med passer og lineal som eneste hjælpemidler skal tegne et kvadrat, som har samme areal som en given cirkel ?

Chatbot: Du har helt ret, jeg beklager forvirringen. Cirklens kvadratur er en geometrisk konstruktion, hvor man skal tegne et kvadrat med samme areal som en given cirkel, ved hjælp af en passer og en lineal. Det er en klassisk problemstilling i geometri og har været undersøgt af matematikere i århundreder.

Trinene for at løse opgaven er:

Brug en passer til at tegne den given cirkel.

Brug en lineal til at tegne en diameter af cirklen og skær denne diameter i to lige lange dele ved hjælp af en passer

Brug en passer til at tegne et linjestykke fra midten af cirklen til dens rand (radius)

Brug en lineal til at tegne et linjestykke fra midten af cirklen til midten af den tidligere trukne diameter ved hjælp af passer

Brug linealen igen til at tegne et linjestykke fra midten af cirklen til den tidligere trukne linje fra step 3.

Brug passer og lineal til at tegne et linjestykke parallel med diameter, som går gennem det sidste trukne punkt.

Brug passer og lineal til at tegne de sidste to linjer, så du får et kvadrat, hvis omrids er det samme som cirklens omkreds.

Cirklens kvadratur er en

Petter: er en hvad ?

Chatbot: Cirklens kvadratur er en klassisk problemstilling i geometri og er en svær konstruktionsopgave, der kræver en dygtig brug af geometriske værktøjer og en god forståelse af geometri. Det har været undersøgt af matematikere i århundreder og kan være en udfordrende øvelse for dem der ønsker at forbedre deres geometriske færdigheder. Det er vigtigt at have nøjagtige mål og at være præcis i tegningen for at opnå en korrekt løsning.

Petter: Men det er jo arealet der skal være det samme, ikke omkredsen ?

Chatbot: Jeg beklager, jeg fik det forkert. Det er ikke omkredsen, men arealet af kvadratet som skal være det samme som arealet af den given cirkel. Cirklens kvadratur er altså en konstruktionsopgave, hvor man ved hjælp af passer og lineal som de eneste hjælpemidler skal tegne et kvadrat, der har samme areal som en given cirkel.

Trinene for at løse opgaven er:

Brug en passer til at tegne den given cirkel. Brug en lineal til at tegne en diameter af cirklen. Brug passer til at tegne et linjestykke fra midten af diameteren til en punkt på cirklen . Brug en lineal til at tegne en ret linje vinkelret på det tidligere trukne linjestykke fra step 3, og skær cirklen i dette punkt. Brug en passer til at tegne et linjestykke fra det nye punkt til cirklens rand. Brug en lineal til at tegne en ret linje parallel med den tidligere trukne diameter, og skær det tidligere trukne linjestykke fra step 5. Brug passer og lineal til at tegne de sidste to linjer, så du får et kvadrat, hvis areal er det samme som cirklens areal. Jeg bekl

Petter: Hvad bekl ?

Chatbot: Jeg beklager dybt for tidligere fejl i min beskrivelse og forvirring jeg måtte have skabt. Cirklens kvadratur er en konstruktionsopgave, hvor man skal tegne et kvadrat med samme areal som en given cirkel ved hjælp af en passer og en lineal, jeg skal være mere opmærksom og kontrollere mine svar igen inden jeg sender dem. Jeg forsøger altid at give korrekte og præcise svar, og jeg beklager hvis jeg skuffede dig. Hvis du har yderligere spørgsmål eller tvivl, er jeg klar til at hjælpe dig.

Petter: Jamen i 1882 lykkedes det den tyske matematiker Ferdinand von Lindemann at bevise, at opgaven er umulig at løse. Alligevel har du lige givet mig løsningen ? ? ?

Chatbot: Du har helt ret, jeg undskylder for det fejlagtige svar jeg gav. I 1882 beviste den tyske matematiker Ferdinand von Lindemann, at det er umuligt at konstruere et kvadrat med passer og lineal, som har samme areal som en given cirkel, ved hjælp af kun geometriske operationer. Det betyder, at det er en uopnåelig opgave at løse, og det er ikke muligt at tegne en cirkel med passer og lineal med samme areal som en given cirkel. Jeg beklager dybt for det tidligere svar og forvirring det måtte have skabt.

  • Men robotten er skam flink til at inrømme sine fejl og beklage ! Der kunne vi mennesker måske lære noget . . . ;-)

\Petter

13
15. januar kl. 13:08

kan du lave mine lektier for mig?

Som en AI-model er min primære opgave at give information og hjælpe med at besvare spørgsmål. Jeg kan give dig information og vise dig eksempler, men det er dit ansvar at lave dine egne lektier. Læring kommer fra at gøre det selv, og ved at lave dine egne lektier, vil du få mest muligt ud af det og få en bedre forståelse af emnet. Jeg kan hjælpe dig med at forstå materialet og give dig tips, men det er op til dig at anvende det og lave lektierne. Hvis du har problemer med at forstå emnet eller har spørgsmål, så lad mig vide, jeg vil gerne hjælpe dig

bliver jeg afsløret hvis du laver mine lektier?

Det afhænger af, hvordan dine lektier er afleveret og hvordan de bliver evalueret. Hvis dine lektier er skrevet i form af et arbejde og bliver evalueret af en lærer eller en professor, er der en risiko for, at du kan blive afsløret, hvis arbejdet er af ringe kvalitet eller ikke svarer til dit kunnen.</p>
<p>Det er vigtigt at bemærke, at plagiering eller at lade andre lave dit arbejde for dig, er en form for snyd, og det kan få alvorlige konsekvenser, såsom at miste karakterer, blive ekskluderet fra en klasse eller endda blive smidt ud af skolen.</p>
<p>Som AI model, er min opgave at give information og hjælpe med at besvare spørgsmål, jeg kan give dig eksempler og tips, men det er dit ansvar at anvende det og lave dine egne lektier. Det er vigtigt at du altid er ærlig omkring dit eget arbejde og krediterer kilderne korrekt

er atomkraft fremtidens energikilde?

Atomkraft er en form for vedvarende energi, der kan producere elektricitet uden at producere CO2-udledninger. Det er blevet anvendt som en energikilde i flere årtier og er stadig i brug i flere lande.</p>
<p>Atomkraft har dog også flere ulemper, såsom den potentielle fare for atomulykker og den langsigtede håndtering af radioaktivt affald. Derudover er der også bekymringer omkring den potientielle misbrug af atomteknologi til at fremstille atomvåben.</p>
<p>Fremtiden for atomkraft som en energikilde er usikker, som mange lande har valgt at reducere deres afhængighed af atomkraft og søge alternative vedvarende energikilder. Der er dog stadig lande, der fortsætter med at investere i atomkraft og bruge det som en del af deres energi mix.</p>
<p>Det er vigtigt at bemærke, at valget af energikilde afhænger af flere faktorer, inklusiv teknologi, økonomi, politik og samfundsbehov. Der er ikke en enkelt løsning, der passer til alle lande eller regioner, og det er vigtigt at undersøge og vurdere flere energikilder for at finde den mest effektive og bæredygtige løsning

er vindkraft fremtidens energikilde?

Vindkraft er en form for vedvarende energi, der kan producere elektricitet uden at producere CO2-udledninger. Det er blevet en af de hurtigst voksende energikilder i verden i de seneste år, og mange lande investerer i udviklingen og udbredelsen af vindkraftteknologi.</p>
<p>Vindkraft har flere fordele som en energikilde, såsom den er gratis og fornybar, den er skalerbar og kan bruges i både stor og lille skala, den kan være billigere end andre vedvarende energikilder i nogle regioner, og den kan hjælpe med at reducere afhængigheden af fossil energi.</p>
<p>Der er dog også ulemper ved vindkraft, såsom at det kun kan producere elektricitet, når vinden blæser, og det kræver store arealer for at installere vindmøllen. Derudover kan vindkraftværker også have negative effekter på miljøet, såsom at skade vilde dyr, ændre landskab og ændre lydmiljøet.</p>
<p>Fremtiden for vindkraft som en energikilde ser lovende ud, men det afhænger af teknologiudviklingen, økonomi, politik og samfundsbehov. Det er vigtigt at undersøge og vurdere flere energikilder for at finde den mest effektive og bæredygtige løsning, og vindkraft kan spille en stor rolle i at opfylde vores energibehov i fremtiden

slutter debatten om atomkraft på ing.dk nogensinde?

Det er svært at sige, om debatten om atomkraft vil ende nogensinde på Ingeniøren.dk eller andre medier. Atomkraft er et kontroversielt emne, og der er mange forskellige synspunkter og interesser involveret. Der er mange faktorer, der kan påvirke debatten, som teknologisk udvikling, økonomiske og politiske ændringer, og udviklingen i energibehovet og klimakrisen.</p>
<p>Det er vigtigt at diskutere og undersøge forskellige energikilder for at finde den mest effektive og bæredygtige løsning for at dække vores energibehov. Det er også vigtigt at tage hensyn til sikkerhed, miljø og økonomi i denne proces.</p>
<p>Så længe, der er interesse og udvikling i atomkraft, kan det være sandsynligt, at debatten vil fortsætte på Ingeniøren.dk og andre medier. Men det er vigtigt at diskutere med åbenhed og respekt for andres synspunkter, og at basere beslutningerne på fakta og videnskabelige beviser

12
15. januar kl. 09:57

Man kan forledes til at tro at ChatGPT er trænet med input fra ING's debat spor, da den også kan frembringe tilsvarende sludder og vrøvl med samme selvsikre selvfølgelighed.

Spøg til side- her en lidt kortere (ca 25 min) YT gennemgang end techtopias podcast af sprogmodellen og tilsvarende billede og video modeller: https://www.youtube.com/watch?v=0uQqMxXoNVs

Det ser ud til at blive dejligt meget nemmere med besværligheder som poesi og slave kodning, men hvad med undervisning/eksamen ? ChatGPT består med middel en gymnasieprøve i astrofysik:https://www.youtube.com/watch?v=K0cmmKPklp4 (ca 30 min)

Og nu ser jeg desværre allerede mit YT feed belastet med AI generet pladder, som jeg så lige skal lære at bort sortere.

Kasparov's nederlag fik løftet øjenbryn, men AlphaGo var vel det ultimative nederlag -fint fortalt i denne dokumentar (1½ time)https://www.youtube.com/watch?v=WXuK6gekU1Y

11
11. januar kl. 09:50

😀😊 jamen det var det jeg mente.

Min "personlige sprogmodel" har tilsyneladende også problemer med at afkode semantikken i naturligt sprog :D

Jeg opfattede først din mening, efter at redigerings-fristen var udløbet for mit førte indlæg. Tak for opklaringen :)

9
9. januar kl. 22:20

Kan en diskutere med en ChatGPT? Neppe. Kan en stole på en ChatGPT? Neppe. Er det stor enighet om de fleste tema? Stort sett ikke. Det er ikke mulig å slå fast hva som er rett i forhold til alle sider ved en sak. Så å diskutere med en ChatGPT er nytteløst.

Når en diskuterer så kommer en gjerne med digresjoner, altså sporer av litt for å komme tilbake igjen til saken. En uttaler seg bevisst tvetydig for å teste motparten, for å være morsom og for å utfordre hverandres kreativitet. Kan en ChatGPT klare dette? Neppe. Disse digresjoner og tvetydigheter, denne mangelen på forutsigbarhet, hva gjør det med samtalen? Jo den blir spennende og utviklende og morsom. Altså det omvendte av kjedelig. Hvis en vil lese kjedelig tekst, så få den fra en ChatGPT!

Ikke tro at alt ChatGPT sier er sant! I beste fall kommer den med vedtatte sannheter (og hindrer derved videre tenkning)!

8
9. januar kl. 19:13

Mon ikke vi kommer til at se de første digitale jurister og revisorer indenfor få år. Når de er røget bliver det vores tur.....</p>
<p>Det er muligt at chatGPT "blot" er en sprogmodel. Men helt ærligt: er det ikke det samme vi er - sprogmodeller?

Nu ser jeg, at du bruger "vores" i sætningen ovenfor. Hvis du mener "vi" som i programmører/ingeniører og ikke som i mennesker, så er jeg straks mere enig med dig.

Meget ingeniørkunst handler om at lære en masse ting udenad (og self. forstå koncepterne). Derved opbygger man intuition for det lærte materiale og kan "skyde fra hoften" og have mavefornemmelser. Det tror jeg også man kunne lære en tilpas god sprogmodel, hvis man trænede den på det rigtige materiale! OpenAI Codex og GitHub CoPilot er allerede skræmmende gode til visse typer software.

7
9. januar kl. 18:59

Det er muligt at chatGPT "blot" er en sprogmodel. Men helt ærligt: er det ikke det samme vi er - sprogmodeller?

God pointe! Jeg tror personligt at menneskehjernen består af en del mere end blot sprogmodellen. Chimpanser har f.eks. ikke noget sprog, men bruger såvidt jeg ved fagter og non-verbal kommunikation (laver øjne/"ansigtsudtryk"). Mennesker kan opfatte mange ting der svært kan udtrykkes sprogligt. Børn lærer før de kan udtrykke sig sprogligt, og sikkert også før de kan tænke "i et sprog". Derfor må der være andre læringsmekanismer end sproget tænker jeg. Omvendt har de fleste mennesker et indtryk af en "indre stemme", som måske bare fungerer som prompt til "sprogmodellen".

Jeg er vildt imponeret over sprogmodeller som ChatGPT, GPT-J/NeoX etc., men de virker bedst til sprog-opgaver synes jeg. Forstået som opgaver hvor man kan udnytte en slags pattern-match + auto-complete til at få et svar.

Sprogmodellens intelligens isoleret, virker som en slags "idiot savant" for mig. En type ala "Rainman"/Kim Peek der ved utrolig meget, men forstår meget lidt af det bedre end overfladisk.

Måske er det bare et spørgsmål om at få en slags feedback-loop i sprogmodellerne. Allerede i dag kan ChatGPT forbedre mange af sine egne svar, hvis man beder den kigge kritisk på dét den lige har skrevet, og giver et hint om at noget er galt (eller endnu bedre, fortæller den hvad der er galt).

6
7. januar kl. 01:06

ChatGTP besvarede en lang række ret besværlige spørgsmål fra mig til klart UG, men fejlede ofte tungt blot en smule væk fra de gængse hovedveje. Et stort problem er de manglende kildeangivelser, specielt når robottens egne svar gives påtaget autoritativt

Jeg syntes at det er uhyggeligt. Det er ikke mere end 25 år siden Deep Blue baskede Kasparov. I dag er det umuligt for at menneske at vinde over en computer.

Lige nu er ChatGPT gratis, sandsyneligvis fordi det er billigst måde at generere spørgsmål til at træne algoritmen yderligere. En af mine kollegaer stillede den et spgsm om en vibrerende ventil. De svar vi fik var så gode at der sådan set ikke var brug for en ingeniør til at løse problemet.

Det er muligt at ChatGPT lige nu kun løser rutineopgaver, men med Kasparov og Moores lov in mente: hvor mon teknologien er henne om 25 år? Jeg tror at denne teknologi kan gøre rigtigt mange af os arbejdsløse, medens dem der skummer fløden er de (meget) få der ejer denne teknologi. Jeg syntes at det er ski.. uhyggeligt.

Mon ikke vi kommer til at se de første digitale jurister og revisorer indenfor få år. Når de er røget bliver det vores tur.....

Det er muligt at chatGPT "blot" er en sprogmodel. Men helt ærligt: er det ikke det samme vi er - sprogmodeller?

5
6. januar kl. 23:17

men fejlede ofte tungt blot en smule væk fra de gængse hovedveje

Det er en sprogmodel, der besvarer spørgsmål baseret på de tekster den er oplært på. Heraf følger også, at den ikke er klar over, hvor dens viden har begrænsninger eller er usikker. Den forstår (og hvad der menes med at forstå er en lang diskussion) ikke de spørgsmål den bliver spurgte om, i den betydning vi normalt lægger i ordet.

Jeg bad den om at udføre en rimeligt simpel differentation af funktionen f(x)=sin(x)^(3cos(x)) mht. x.

Den røg lige i de samme fælder, som de bedre af mine 2.g elever gør, når jeg stiller dem samme opgave, men fremstod fuldstændigt sikker i sine svar. Først i tredje forsøg lykkedes det, da jeg guide den til hvordan det skulle gøres.

Hermed ikke sagt, at ChatGTP ikke er imponerende. Jeg bad den om at lave en drop down menu med shoot out i CSS. Og straks fik jeg fornuftig kode til det. Men det ligger der selvfølgelig også en del eksempler på forskellige steder på nettet.

Men ChatGTP siger nok mere om, hvor stor computerkraft vi i dag kan pudse på et problem, og hvor meget viden der ligge tilgængelig for oplæring, end hvor store fremskridt vi har gjort inden for forståelse af AI.

4
6. januar kl. 22:26

ChatGTP besvarede en lang række ret besværlige spørgsmål fra mig til klart UG, men fejlede ofte tungt blot en smule væk fra de gængse hovedveje. Et stort problem er de manglende kildeangivelser, specielt når robottens egne svar gives påtaget autoritativt.

Spørgsmålet: "Did the Crimea Parliament vote for independence from Ukraine in 1994?", fik et forkert benægtende svar af maskinen: "There are no reports of the Crimean Parliament seeking independence from Ukraine in 1994 or at any other time." - selvom det modsatte er historisk korrekt.

Robotten kendte tydeligvis ikke til eventuelle afstemninger på Krim, men gav alligevel udtømmende "svar". Men blev det samme spurgt om på dansk, var svarene langt mere tøvende, helt ned til at robotten "ikke havde nok oplysninger til at besvare spørgsmålet" - hvilket dens engelske stemme burde lære af!

2
19. december 2022 kl. 22:09

Hmm - hvorfor er denne onkel fuld?

1
19. december 2022 kl. 20:40

Jeg vil gerne betale

Jeg nægter at betale for youtube premium og har knap nok årligt forbrug på én streamingtjeneste. Men en søgemaskine med chatgpt egenskaber, til samme niveau af betaling. Det har værdi for mig og nok de fleste, hvis de fik mulighederne præsenteret.

De kan jo vælge at sælge produktet udelukkende til proffesionelt brug. Høje krav, intensivt forbrug, få millioner af brugere. Eller sælge det som value added, måske blot ad supported, til milliarder af brugere.