Pavel Mayer 2:00:49
Der Antike Naja, also wie gesagt, man kann unglaublich tolle Dinge damit machen.Stimmen, generierte Stimmen klingen immer besser.Bilder, was jetzt so Visualisierung und so angehen, muss ich sagen,habe ich immer noch nichts gesehen, wo ich sagen würde.Okay, das ist jetzt was Neues, also das Gefühl sind schon alles Imitationenund Remixe, aber unabhängig davon.Hat man natürlich, hat,die Geschäftswelt jetzt entdeckt oder die Hoffnung besteht,dass man mithilfe dieser neuen Art an Automatisierung jetzt mehr lästige undteure Menschen einsparen kann.Was ja grundsätzlich okay ist.Deutschland ist gut gefahren mit Automatisierung, weil das hält dann die Löhnehoch, das erlaubt Arbeitszeitverkürzung und generell, ja, ist jetzt,ich sage Automatisierung,gab es ja die Debatten in den 80ern und in den 90ern, auch die entsprechenden Gegenbewegungen.Ja, aber jetzt mit den neuronalen Systemen sind die Möglichkeiten,was man machen kann oder was Computer machen können, in ganz neue Bereiche vorgedrungen.Und der große Hype-Zyklus ist jetzt nicht nur, was viele machen.Neuronale Automatisierung von Geschäftsprozessen.Sondern eigentlich ist der Wunsch, dann den Drop-In-Worker zu haben.Das heißt, eine KI, der du einfach sagen kannst, so wie einem Mitarbeiter ineinem bestimmten Bereich, okay.Du bist jetzt für das und das zuständig, mach das bitte, kümmere dich darum,organisiere das und setze das jetzt irgendwie um.Das ist so ein bisschen der Wunsch. Das heißt, generell geht dann eben auchder Trend dazu, dann neuronalen Systemen mehr Agency zu geben.Also im Prinzip sie als Agenten oder Agentensysteme einzusetzen,die dann auch tatsächlich was tun können.Hier das Beispiel, was wir jetzt hatten mit der Visualisierung und Auswertungund so, das ist noch relativ harmlos,weil es auch nicht in Echtzeit gerade mitläuft während der Sendung und auchansonsten Ergebnisse generiert,die man dann reviewen und dann online stellen kann.Das heißt, da ist jetzt kein Agent dahinter.Es sei denn, Pipeline, um das jetzt zu generieren, ist jetzt auch eine Bild-und Testpipeline, die in irgendeiner Weise automatisiert ist.Dann besteht zumindest auch Gefahr mit bestimmten Daten oder Links,die da dann eventuell drin sind.Dass dann die Bildplattform übernommen wird.Oder dass dort Sachen eingeschleust werden, letztlich Schadsoftware verstecktwird in Repositories und so weiter.Soweit ist man jetzt. Und dann ist, weil das Ganze auch jetzt so relativ neuist und weil viel Begeisterung jetzt dabei ist und weil dann auch viel Vibe-Coding passiert,fühlt sich das Ganze an, erinnert mich an das Internet in den frühen 90er Jahren.Das war so Anfang der 90er Jahre.Das Internet war so,da gab es praktisch keine Firewalls und kein NAT, sondern alle Rechner hingendirekt am Internet und hatten eine IP-Adresse.Das heißt, jeder Rechner, und das war Anfang der 90er, waren das schon eineMenge, so konntest du halt direkt erreichen, ohne dass irgendwas direkt rein.Hingen mit allen offenen Ports in der Regel im Internet und weil das Internet auch so exklusiv war,dass halt überwiegend nur Forscher und reiche Leute sich darin tummelten.Hatte man auch erst mal, ja also Security existierte zwar, aber da war jetzt kein großes Thema.Also dass wir zum Beispiel, als wir mal an einem Projekt gearbeitet haben,Visualisierung von Medizindaten und hatten eine Kooperation mit der Charitéund die wollten uns Daten bringen, aber irgendwie optische Disk funktionierte nicht.Und dann haben wir dann gefragt, können wir uns die Daten direkt vom CT-Scanner holen?Weil geguckt, einfach die Platte per NFS vom CT-Scanner in der Charité zu Hausegemountet oder in der Firma einfach über NFS gemountet und die Daten direkt vom Scanner gezogen.Keine Authentifizierung, nichts.Also man muss noch nicht mal irgendwie Sicherheitslücken groß ausnutzen.Und ich erzähle das nur deswegen, weil teilweise ich mich an diese Zeiten zurückerinnertwurde, wenn ich mir so manche Systeme angucke,gerade wo AI deployed wird in Agentensystemen oder insbesondere was halt.Ich gucke gerade, was ich denn, von Jailbreaks hat halt glaube ich jeder schongehört, aber das andere große Thema ist eben Prompt Injection.Das heißt, dass man jetzt bei LLMs in den Kontext auf verschiedene Art und WeiseDaten einschleust oder Anweisungen einschleust,ohne dass der Benutzer das sieht und mit denen man da Dinge tut,die eigentlich verboten sind.Das heißt, der niedrigste Level ist, dass man Systeme dazu benutzt,um Scams, Desinformation und Phishing zu verbreiten oder zu betreiben über Prompt Injection.Aber so richtig spannend wird es dann natürlich mit so Automatic Tool Invocation,wenn dort das System in der Lage ist,weitere Software zu starten auf dem Server und dann man dort letztlich CodeExecution möglicherweise hat.Oder eben bestimmte Tools benutzen kann, um dann halt typischerweise Daten zuexfiltrieren und auf Daten zuzugreifen, auf die man eigentlich keinen Zugriff haben sollte.Das ließe sich auch alles problemlos, oder was heißt problemlos,Es ließe sich halt vermeiden.Wenn man entsprechend die Daten, um die es geht, mit entsprechenden Zugriffsberechtigungen schützt.Aber jeder weiß hier, glaube ich, was das für eine Hölle ist,wenn man anfängt, jetzt für ein System Zugriffsberechtigungen zu gestalten.Die sind entweder zu restriktiv oder zu permissiv und macht viel zu viel Arbeit.Das heißt, im Moment, einfach weil teilweise zu viel Geld gespart werden soll,wird das Ganze eben auch automatisiert oder man gibt halt den Komplettzugriffund verlässt sich dann auf eventuell andere Mechanismen, aber das geht halt regelmäßig schief und,Das Interessante, was mir vorher gar nicht bekannt war.Das was unter ASCII-Smuggling bekannt geworden ist,ist in Wirklichkeit eine Prompt Injection über im Wesentlichen Emojis oder halt Unicode Characters.Und was mir vorher, also hättest du mich vor zwei Jahren gefragt.Hätte ich das nicht für möglich gehalten, weil nicht klar war,dass du in Unicode beliebige Daten mithilfe des sogenannten Tag-Systems verstecken kannst.Das heißt als Beispiel, Flagge, also bei den ganzen Flaggen in Unicode,hat nicht jede Flagge ihr eigener Unicode in dem Sinne, dass es ein eigenerCodeblock ist, sondern die ist halt getaggt.Das ist dann der Unicode-Flagge, getaggt dann mit Deutschland oder getaggt ISO-Codes entsprechend.Aber diese Tags können halt variable beliebige Länge haben.Das heißt, du kannst dann in bestimmten Emojis halt, kannst du dann kompletteStrings oder Anweisungen reinbringen.Auf dem Bildschirm siehst du nur das Emoji, aber die Klänge.KI liest halt die ganzen Tags als Anweisungen dann.Das ist halt eine bekannte Art und Weise.Um Daten reinzuschmuggeln oder auch rausschmuggeln wiederum gängige Art und Weise.Ist dann, weil mehr und mehr von den LLMs in der Lage sind, jetzt auch HTTP-Requestszu machen oder DNS-Requests dann auszuführen,dass man dann einen eigenen Web-Server oder einen DNS-Server aufsetzt und danndie Daten darüber exfiltriert,dass man die LLM halt Anfragen bei deinem eigenen Server machen lässt.Und du dann in der URL oder in dem Domain-Name halt die zu exfiltrierenden Daten codierst.Also so, ja.
Okay schade der Download macht nichts außer via Overcast den Akku leer :(
Ja bei mir auch, 40KB/sec :-( Meine Leitung könnte 40Mbps!
Tim,
was ist denn jetzt mit dem 10 gbit Server ? Die folgen lassen sich Stunden nach der veröffentlichung immernoch nicht herunterladen, dass Problem besteht bereits seit über 1 Jahr…
Zum Thema Smarthome:
Es gibt Fenster/ Türsensoren die anhand der Zapfenstellung jeden Zustand von Fenstern erkennen können. So erkennt der Sensor auch ob eine Tür wirklich geschlossen oder nur zugefallen ist.
https://www.senoro.de/ …leider alles andere als günstig..
Zu den neuen Ikea Matter Sensoren , diese verstehen nicht nur Matter sondern können auch in einen ZigBee pairing Mode gebracht werden.
https://www.reddit.com/r/tradfri/s/2EPKIkmk30
Techniker informiert? Der Download via Overcast ist fast unmöglich geworden. Danke!
Ja, Overcast rödelt sich mit ständigen Restarts des Downloads nach knapp der Hälfte der Datei seit gestern Abend einen ab. Ist sicher auch nicht förderlich.
Ich hab mir jetzt mit dem Browser das MP4 gezogen und manuell in Overcast eingespielt. Nicht wirklich die erstrebenswerte Lösung.
Wenn KI-Robots soviele Episoden runterladen, musst du denen eine Gebühr stellen. Wenn du soviele Zuhörerinnen hast musst du endlich mal eine besser Anbindung zur Verfügung stellen. Auch wenn nur ein kleiner Teil zahlt, sollte es dafür doch reichen.
Der neue Server ist schon bestellt und wird gerade bereitgestellt. Der ganze Umzug der Metaebene wird dann allerdings wohl noch zwei Wochen dauern. Management Summary: help is on the way.