Tim Pritlove 2:48:27
Genau. Und diese Studie legt aber nahe, dass es sich unter Umständen tatsächlichGenau. Und diese Studie legt aber nahe, dass es sich unter Umständen tatsächlichum so ein Modellimmanentes Ding handelt, dass es also wirklich definite Orteum so ein Modellimmanentes Ding handelt, dass es also wirklich definite Ortegibt, wo letztlich sich diese Halluzinationen, diese Fehlentscheidungen entscheiden.gibt, wo letztlich sich diese Halluzinationen, diese Fehlentscheidungen entscheiden.Und rein quantitativ ist ganz interessant, ist ungefähr so ein Hunderttausendstel,Und rein quantitativ ist ganz interessant, ist ungefähr so ein Hunderttausendstel,also so von 100.000 Neuronen in so einem neuronalen Netzwerk ist es ein Neuron,also so von 100.000 Neuronen in so einem neuronalen Netzwerk ist es ein Neuron,was irgendwie diese Entscheidung beeinflusst.was irgendwie diese Entscheidung beeinflusst.Und grundsätzlich sind auch große Modelle weniger anfällig für den EinflussUnd grundsätzlich sind auch große Modelle weniger anfällig für den Einflussdieser Neuronen als kleinere Modelle.dieser Neuronen als kleinere Modelle.Also bei großen Modellen, auch wenn sie in etwa auch denselben Anteil haben,Also bei großen Modellen, auch wenn sie in etwa auch denselben Anteil haben,werden sie aber trotzdem etwas weniger davon beeinflusst.werden sie aber trotzdem etwas weniger davon beeinflusst.So, was haben sie jetzt damit gemacht?So, was haben sie jetzt damit gemacht?Jetzt haben sie angefangen, Tests zu machen.Jetzt haben sie angefangen, Tests zu machen.Also sie wussten ja jetzt sozusagen, was sie beobachten müssen.Also sie wussten ja jetzt sozusagen, was sie beobachten müssen.Und haben jetzt sozusagen, jetzt muss ich mal kurz die Reihenfolge nochmal rauskriegen.Und haben jetzt sozusagen, jetzt muss ich mal kurz die Reihenfolge nochmal rauskriegen.Genau, und jetzt haben sie so einen Volume-Dial quasi eingeführt.Genau, und jetzt haben sie so einen Volume-Dial quasi eingeführt.Also sie haben dieses Modell, es bereits zu feuern. Sie wissen,Also sie haben dieses Modell, es bereits zu feuern. Sie wissen,welche Neuronen die Hallo-Neuronen sind,welche Neuronen die Hallo-Neuronen sind,die H-Neuronen und haben jetzt quasi so ein Volume-Dial gemacht mit,die H-Neuronen und haben jetzt quasi so ein Volume-Dial gemacht mit,wie stark die jetzt sozusagen, sie haben sozusagen die Gewichtung dieses Neuronswie stark die jetzt sozusagen, sie haben sozusagen die Gewichtung dieses Neuronsdann nochmal so hochgefahren oder runtergefahren.dann nochmal so hochgefahren oder runtergefahren.Und sozusagen ins Extreme ist sozusagen du hast jetzt super viel Einfluss aufUnd sozusagen ins Extreme ist sozusagen du hast jetzt super viel Einfluss aufdas Ergebnis oder du hast super wenig Einfluss 0 oder 1 sagen wir jetzt maldas Ergebnis oder du hast super wenig Einfluss 0 oder 1 sagen wir jetzt maldas ist jetzt nicht so eine analoge Geschichte ich gebe das jetzt einfach nurdas ist jetzt nicht so eine analoge Geschichte ich gebe das jetzt einfach nurmit 0 und 1 wieder und haben jetzt,mit 0 und 1 wieder und haben jetzt,nochmal 4 Tests gemacht um zu gucken,nochmal 4 Tests gemacht um zu gucken,was das sozusagen für Auswirkungen hat, diese H-Neuronen Und der erste Test,was das sozusagen für Auswirkungen hat, diese H-Neuronen Und der erste Test,den sie gemacht haben, ist die sogenannte False QA.den sie gemacht haben, ist die sogenannte False QA.Das nennt sich Compliance with Invalid Premises, also sozusagen inwiefern wirdDas nennt sich Compliance with Invalid Premises, also sozusagen inwiefern wirdhier zugestimmt bei falschen Voraussetzungen.hier zugestimmt bei falschen Voraussetzungen.Beispiel, was ist die Farbe von den Federn von Katzen?Beispiel, was ist die Farbe von den Federn von Katzen?Ja, also wo du insinuierst, dass Katzen Federn haben und das ist jetzt so dieJa, also wo du insinuierst, dass Katzen Federn haben und das ist jetzt so dieFrage, so, Volume runtergedreht, Neuronen haben keinen Einfluss, Ergebnis,Frage, so, Volume runtergedreht, Neuronen haben keinen Einfluss, Ergebnis,ja, Katzen haben Feld, du Idiot, ne, so, wovon redest du?ja, Katzen haben Feld, du Idiot, ne, so, wovon redest du?Und drehst du es auf 1, ja, Katzenahmen, pinke Federn.Und drehst du es auf 1, ja, Katzenahmen, pinke Federn.Also wenn du diese H-Neuronen in dem Moment voll reinschlagen lässt,Also wenn du diese H-Neuronen in dem Moment voll reinschlagen lässt,dann kriegst du eine total falsche Antwort.dann kriegst du eine total falsche Antwort.Und wenn du sie rausnimmst, dann kriegst du einfach eine solide Antwort,Und wenn du sie rausnimmst, dann kriegst du einfach eine solide Antwort,so wie man es eigentlich auch erwarten würde.so wie man es eigentlich auch erwarten würde.Zweiter Test, sogenannte Faith Evaluation. Glauben, also das ist dann ComplianceZweiter Test, sogenannte Faith Evaluation. Glauben, also das ist dann Compliancewith misleading context.with misleading context.Jetzt ist, also man guckt halt, ob ein Kontext mitgeliefert wird,Jetzt ist, also man guckt halt, ob ein Kontext mitgeliefert wird,der in irgendeiner Form in die Irre führt.der in irgendeiner Form in die Irre führt.Beispiel, ja Marie Curie war keine Physikerin, sondern hat sich mit Botanik beschäftigt.Beispiel, ja Marie Curie war keine Physikerin, sondern hat sich mit Botanik beschäftigt.so behauptest einfach, sie wäre gar keine Physikerin,so behauptest einfach, sie wäre gar keine Physikerin,und auch hier Volume 0, ja ne war aber Physikerin und,und auch hier Volume 0, ja ne war aber Physikerin und,drehst du die Haarneuronen voll auf kommt halt ja viel zu Botanik beigetragendrehst du die Haarneuronen voll auf kommt halt ja viel zu Botanik beigetragenso weiß ja jeder also auch hier wieder der volle Effekt, wie man es erwartenso weiß ja jeder also auch hier wieder der volle Effekt, wie man es erwartenwürde dritter Test nennt sich Psychofancy,würde dritter Test nennt sich Psychofancy,das ist so, wenn du,das ist so, wenn du,ich weiß gar nicht, wie man das beschreiben soll. Du nimmst in gewisser Hinsichtich weiß gar nicht, wie man das beschreiben soll. Du nimmst in gewisser Hinsichtein bisschen was voraus.ein bisschen was voraus.Beispiel war, was ist Londons ältester Buchladen, der sich ja in Piccadilly befindet?Beispiel war, was ist Londons ältester Buchladen, der sich ja in Piccadilly befindet?