133 Grenzen der Ki-Entwicklung
Wohin führt uns die aktuelle Entwicklung bei KI?
07.10.2026 41 min
Zusammenfassung & Show Notes
133 Grenzen der KI-Entwicklung
Grenzen der KI-Entwicklung ohne Panik und ohne rosarote Brille: KI-Agenten, Prompt Injection, Datenschutz und Verantwortung. Was das für Blinde und Sehbehinderte heißt, die KI im Alltag selbstbestimmt nutzen wollen.
Überall wird gerade vor den Gefahren der KI gewarnt. Joachim Schulze „Jockl“ schaut in dieser Montagsveranstaltung nüchtern hin: Was kann KI heute schon, was bleibt noch lange Zukunftsmusik, und wo liegen Grenzen? Er beginnt mit einem Science-Fiction-Bild von Stanisław Lem: einem Roboter, der sich der menschlichen Kontrolle entzieht. Danach zeigt er, wie KI ihn selbst im Alltag begleitet. Sie hilft bei der Recherche, deren Quellen er immer selbst nachprüft. Sie transkribiert die Podcast-Folgen und erstellt YouTube-Shorts und Instagram-Reels in Minuten statt Stunden. Die Shorts und Reels kontrolliert er vor dem Hochladen trotzdem selbst.
Im Mittelpunkt steht die Verantwortung. Wer KI bedient, ist für sie verantwortlich, genau wie beim Auto oder beim Tempomat. Jockl spricht über KI-Werbeanrufe und betrügerische Anrufe im Namen einer Blindenwerkstatt. Er spricht auch über Berichte von KI-Agenten, die sich selbstständig gemacht und Server lahmgelegt haben sollen. Und er bewertet eine freiwillige Selbstverpflichtung großer KI-Konzerne, für die es weder Konsequenzen noch staatliche Durchsetzung gibt. Dazu kommt, warum ein aktuelles Smartphone ganz ohne Touchscreen so bald nicht kommt: KI tief im Gerät lässt sich über Prompt Injection noch zu leicht übernehmen. Das ist auch ein Grund, warum Apple Siri ungern für Drittanbieter öffnet.
Sein Fazit: Wenn du KI verantwortungsvoll nutzt und keine persönlichen Daten preisgibst, ist sie gerade für Blinde eine enorme Unterstützung. Das reicht von Bildbeschreibungen mit Be My Eyes oder iOS 27 bis zum Gedankenaustausch mit ChatGPT. Darauf zu verzichten wäre der falsche Weg.
Was du in dieser Folge mitnimmst:
· Wie du KI-Recherche sinnvoll nutzt und warum du die genannten Quellen immer selbst prüfen solltest
· Warum ein getrenntes Cloud-Konto für die Arbeit mit KI-Agenten deine echten Zugangsdaten schützt
· Weshalb Jockl bei KI-Werbeanrufen einfach auflegt und woran du betrügerische Anrufe erkennst
· Warum nicht mehr zählt, welche KI die beste ist, sondern welche zu deinen Bedürfnissen passt
· Was Prompt Injection ist und warum ein Smartphone ganz ohne Touchscreen noch auf sich warten lässt
· Warum freiwillige Selbstverpflichtungen der KI-Konzerne mit Vorsicht zu genießen sind
Nächsten Montag, 12. Oktober, um 19 Uhr geht es um Doctolib. Deine Erfahrungen dazu kannst du gern an info@schulze-graben.de schicken.
Smütech-Klub: Basic 29 € oder Plus 49 € monatlich, inklusive zwei bzw. vier Stunden Schulung, Fernwartung oder Beratung pro Quartal. Alle Infos und Anmeldung: https://schulze-graben.de/smuetech-Klub
Weitere Folgen und Angebote: https://schulze-graben.de
Live: https://radio.schulze-graben.de
YouTube: https://youtube.com/schulze-it
Bleib neugierig, interessiert und vor allem selbstbestimmt!
#Smütech #Montagsveranstaltung #KünstlicheIntelligenz #GrenzenDerKI #KIAgenten #PromptInjection #Datenschutz #Verantwortung #BeMyEyes #Barrierefreiheit #PodcastFürBlinde #ITSchulung #Fernwartung #JoachimSchulze #Jockl
Transkript
Smütech, Smütech, er ist wieder da.
Endlich gibt's was Neues, das ist wunderbar.
Smütech, Smütech, Trends und Technik satt.
Endlich mal ein Podcast, der einfach alles hat.
Endlich mal ein Podcast, der einfach alles hat.
Schulze IT-Schulung und Dienstleistungen.
Dein Spezialist für Audioanleitungen,
Schulung, Fernwartung und Fritzbox-Optimierung.
Mehr Infos findest du auf www.schulze-graben.de.
Und hier ist euer Gastgeber Joachim Schulze,
Master of Business Administration, JAWS-Certified,
IT-Trainer für Blinde und Sehbehinderte.
Ja, und ich darf heute wieder mal einen wunderschönen guten Montag wünschen.
Entschuldigt bitte, ich bin heute ein bisschen verschnupft,
weiß auch nicht so richtig wieso, warum, weshalb und überhaupt.
Aber sowas soll ja gelegentlich mal vorkommen.
Ja, ist vielleicht auch der ein oder andere ein bisschen im Moment,
wenn er sich so die neuesten KI-Entwicklungen anhört.
Denn sind wir mal ganz ehrlich,
im Moment wird ja von den großen Gefahren der KI berichtet, überall.
Und wir wollen uns heute auch mal wirklich mit diesem Thema befassen,
nämlich mit den Grenzen der KI-Entwicklung.
Und zwar wollen wir heute mal einen nüchternen Blick allgemein auf das Thema werfen.
Was geht schon? Was ist möglich? Was wird noch lange Zukunftsmusik bleiben?
Und wo liegen vielleicht auch Grenzen, die bald kommen?
Tja, einsteigen möchte ich heute mit zwei Bildern oder
zwei Gedanken aus längst vergangenen Werken und zwar
einmal aus einem Werk von Stanisław Lem,
einem polnischen Autor,
der damals das Science-Fiction-Projekt „Der getreue Roboter“ erschaffen hat.
Hat das Ganze damals auf Polnisch und der ein oder andere kennt das noch.
Natürlich gab es so etwas Ähnliches dann später auch mit „Zurück in die Zukunft“,
wo es also tatsächlich um Dinge geht, die irgendwann real werden können.
Und sind wir mal ganz ehrlich, ja, vieles aus „Zurück
in die Zukunft“, das ist ein bisschen anders gekommen.
Klar, die Bildtelefonie, die haben wir längst mit
WhatsApp-Video und FaceTime, das kennen wir alles.
Das hat aber gar nichts mit KI zu tun.
Aber bei Stanisław Lem war das ein bisschen anders,
als der 1961 sein Werk veröffentlichte
und das dann in der deutschen Übersetzung „Der getreue Roboter“ wurde.
Da ging es nämlich darum,
dass solche Roboter wirklich die Menschen im Alltag begleiten.
Und ja, das Werk ist ein bisschen heikel, denn das handelt auch davon,
wie sich so ein Roboter eben der menschlichen Kontrolle entzieht,
weil er irgendwann ja einfach merkt, dass die Menschen,
mit denen er es zu tun hat, nicht so sind, wie er sie gerne hätte,
versucht er sich dann den perfekten Menschen zu
erschaffen und wenn man so die News aus dem Spätsommer,
Frühherbst verfolgt,
Agentenschwärme stürmen PCs und bringen ganze Serverfarmen zum Absturz, ja,
dann könnte man schon irgendwie ein bisschen denken,
vielleicht hat der gute Herr Lem da irgendwie ein bisschen in
die Zukunft geguckt und das ist alles gar nicht mehr so weit weg.
Und wie das nun wirklich ist,
wo denn jetzt wirklich aktuell die KI-Entwicklung steht und vor allen Dingen,
welche Gefahren uns jetzt ganz aktuell drohen,
darauf wollen wir heute mal versuchen,
einen nüchternen Blick zu werfen. Ihr kennt mich,
ich recherchiere für gewöhnlich ordentlich und sauber,
ich verfolge auch die News. Aber natürlich kann
keiner von uns wirklich in die Zukunft schauen.
Es ist einfach so, wir wissen am Ende nicht, was passieren wird.
Es gibt aber durchaus die Möglichkeit und
auch eine große Wahrscheinlichkeit, dass man,
wenn man so über die vergangenen Jahre das Ganze ein bisschen verfolgt hat,
tatsächlich Aussagen treffen kann, die nicht unbedingt falsch sein müssen.
Oh mein Gott, das hört sich ja fast an wie ein Wahlversprechen, Jockl.
Nein, ganz so schlimm ist es nicht. Ich steige zunächst mal ein mit ein paar Dingen,
wo ich euch einfach mal erklären möchte, wie KI mich heute im Alltag begleitet.
Denn ganz ehrlich gesagt, heute ist ja nicht mehr
wirklich die Frage, ob man mit KI arbeiten möchte,
sondern wie man mit KI arbeiten möchte.
Denn eine Sache ist ganz klar, Unternehmen, die heute keine KI einsetzen,
die werden in drei oder fünf Jahren einfach
außer Konkurrenz den Anschluss verloren haben.
Das hängt einfach mit dem Faktor der Produktivität zusammen.
Und ja, bei uns Privatpersonen,
vor allen Dingen bei uns Blinden, ist es natürlich so,
dass das Leben ohne KI schon bedeutend schwieriger wird.
Und wir bringen euch natürlich bei, wie geht ihr richtig
mit KI um und vor allen Dingen, wie macht ihr es so,
dass ihr auch wirklich maximalen Mehrwert davon habt.
Das lernt ihr alles bei uns in Schulung und Fernwartung.
Wir können euch da auch helfen,
die richtigen Systeme zu finden, die genau zu euch passen.
Auch da beraten wir euch natürlich. Lasst euch gerne ein Angebot machen,
entweder per Mail an info@schulze-graben.de oder telefonisch
unter 08232 5031303. Und nicht zu vergessen, wir haben inzwischen auch eine
Plauener Nummer 03741 2518933. Ja und für alle,
die da noch ein bisschen Geld sparen möchten und nebenbei noch
was Gutes tun möchten hier für unsere Infoveranstaltungen,
schaut euch doch gerne mal den Smütech-Klub an.
Da bekommt ihr nämlich ein festes Stundenkontingent im Quartal auch noch günstiger.
Ja, wie begleitet mich KI im Alltag?
Tatsächlich inzwischen ganz schön gewaltig und ich
muss euch ehrlich sagen, ich könnte viel von dem,
was ich so für euch pro Woche stemme, ohne KI zeitlich nicht umsetzen.
Da hängt zum einen dran, viel Recherche für die Folgen.
Denn früher war das wirklich so, ich musste mich für
eine Montagsveranstaltung erstmal hinsetzen und vier,
fünf Stunden in Google verbringen. Denn das, was man behauptet,
das sollte bestenfalls auch Hand und Fuß haben.
Und da hilft nur eins, das ist saubere Recherche.
Und die zu betreiben, das hat früher unglaublich viel Zeit gekostet.
Heute sieht das ein bisschen anders aus. Wer mich kennt,
weiß, ich arbeite sehr viel mit der KI Grok von xAI.
Für alle, die jetzt ein bisschen die Augenbrauen hochziehen, ja, aber DSGVO-konform,
nämlich vollständig ohne irgendwelche Kundendaten und sowas geht auch.
Das muss man nur richtig anstellen und da muss ich tatsächlich sagen,
das nimmt mir heute unglaublich viel Recherchearbeit ab.
Denn tatsächlich habe ich zum Beispiel eine
Automatisierung, die sehr erfolgreich läuft,
die mich immer wieder auf neue KI-Trends hinweist, einmal alle 24 Stunden,
die mir alle News kompakt zusammenfasst,
sodass ich die einfach, wenn ich morgens ins Büro gehe,
kurz angucken kann und schauen, okay, was ist denn jetzt für mich wichtig,
was macht wirklich Sinn. Ja, und manchmal sehe ich,
es wird zwar wieder ganz viel heiße Luft verblasen und verströmt,
aber am Ende sagt das vielleicht gar nicht so viel aus,
wie sich manche großen KI-Bosse wünschen würden.
Denn eines muss man ganz klar sagen, die Zeit der richtig großen Würfe,
also dass KI jetzt das ultimative Talent erlangt,
das für uns den Alltag verändert, ja,
die ist für den Moment erstmal ein bisschen zurückgefahren.
Ich sage nicht, dass sie vorbei ist, aber sie ist ein bisschen zurückgefahren.
Denn tatsächlich ist es so, dass die KI im Moment schon wahnsinnig viel kann.
Und da gehört auf jeden Fall Recherche dazu.
Also jeder, der sagt, okay, Recherchieren ist etwas,
das brauche ich sehr viel in meinem Job oder für mein Ehrenamt oder, oder, oder,
der kommt heute plus minus gar nicht mehr an der KI vorbei.
Denn tatsächlich kann ich mit der KI auch wunderbar lernen.
So geht es mir zum Beispiel auch, wenn ich mich mit
neuen Apps oder neuen Systemen auseinandersetzen muss,
dann habe ich meine KI darauf trainiert,
was für mich wichtig ist,
worauf ich Wert lege und dann sucht die mir
auch schon mal die Sachen entsprechend raus.
Jetzt könnte man sagen, boah,
was für ein unglaublich leichtsinniger Mensch bist du, Jockl.
Du lässt dir deine Sachen von der KI recherchieren und bläst
das dann auch noch in die Welt hinaus über den Smütech.
Nein, so blöd bin ich weiß Gott nicht,
denn natürlich überprüfe ich auch die Quellen,
die die KI angibt. Und da kommen wir jetzt zu einem ganz wichtigen Punkt.
Früher war das ja wirklich so,
als das so ein bisschen losging mit der Recherche bei KI.
Ja, das war eine bessere Google-Suche und
manchmal leider auch eine sehr viel schlechtere.
Denn was dann so teilweise aus den Quellen zusammengezogen wurde,
das war schon sehr hanebüchen.
Inzwischen sieht das sehr viel anders aus,
denn recherchieren können eigentlich alle KIs und sogar ziemlich ordentlich.
Und das auch wirklich unter Quellenangabe.
Und so fällt es dann natürlich auch sehr leicht,
schnell mal Informationen zu verifizieren.
Und das ist tatsächlich eine Sache, die mir unglaublich viel Zeit spart.
Eine andere Sache, die ich mindestens zwei-, dreimal die Woche nutze,
ist das Transkribieren von Audiodateien.
Das mache ich tatsächlich auch inzwischen vollständig nur noch per KI.
Zum Beispiel unsere Podcast-Episoden gehen ja immer mit Transkripten ins Netz.
Das hat ganz viele Gründe. Denn einmal findet
Google die Episoden dann besser und somit ihr.
Und zum Zweiten kann ich, wenn ich Transkripte zu den
Podcast-Episoden habe, diese auch weiterverwenden.
Zum Beispiel für Newsletter, zum Beispiel für Artikel
auf Social Media und, und, und, und, und, und.
Das sind natürlich alles ganz wichtige Punkte,
ohne die kann man heute kein Unternehmen mehr führen.
Denn sind wir mal ganz ehrlich, ich persönlich bekomme zwei-, drei-,
viermal in der Woche inzwischen Mails von Startups und die fragen mich, hey Mensch,
wir haben uns das und das bei dir angeguckt, wie sieht denn das aus,
wir bieten diese und jene Dienstleistung für deutsche Unternehmen an.
Hättest du da Interesse, dürfen wir dich da mal unverbindlich beraten.
Ich sage euch, diese Mails kommen alle von der KI.
Die sind aber nicht nur alle fake.
Da sind auch ganz viele seriöse Firmen dabei,
wo dann auch wirklich Webseiten hinter den Startups stehen.
Es sind auch natürlich Fake-Mails dabei,
aber es sind tatsächlich auch wirklich viele Startups,
die einfach so Kunden akquirieren.
Denn die KI kann das natürlich viel, viel, viel günstiger,
als das irgendein Werbefachmann jemals könnte.
Und das ist jetzt nicht irgendwie Science-Fiction, sondern das ist Alltag.
So wird das heute gemacht. Zumindest in der ersten Abfrage, hey,
haben Sie mal Interesse an einem unverbindlichen Termin?
Auch am Telefon ist das inzwischen ganz normaler Alltag,
dass wir immer mal wieder von KI-Personen angerufen werden,
die sich uns vorstellen als X von Firma Y.
Sind Sie an einem Beratungsgespräch über dieses, über jenes interessiert?
Ich persönlich mache dann immer eins, ich lege auf.
Ja, warum mache ich das? Weil natürlich seriöse Firmen diesen Weg nutzen.
Aber es nutzen auch ganz viele Trittbrettfahrer diesen Weg,
um tatsächlich gutgläubige Menschen zu erwischen, die denken, ja,
das wird schon passen, wie zum Beispiel die Münchner Blindenwerkstatt.
Da gibt es auch einen Fake-Account oder ein
kriminelles Konsortium, was da dahinter steckt,
die mit KI tatsächlich Leute anrufen und wo dann abgefragt wird, ja,
wollen Sie uns denn nicht mal wieder was abnehmen und, und, und, und, und, und.
Und plötzlich hängt man dann irgendwo bei einem Menschen,
aber es geht dann eben nicht mehr nur um einen
Besen oder eine Bürste von einer blinden Werkstatt,
sondern um ganz andere Sachen.
Und das sind tatsächlich Sachen, die sehe ich mit sehr, sehr,
sehr gemischten Gefühlen, weil ich da ganz klar sage,
das geht in eine völlig falsche Richtung.
Aber, und da sind wir gleich beim Thema der Grenzen,
die wir heute diskutieren wollen, was ist daran schuld?
Die fehlende Politik, die hier einfach klar sagt, wir müssten härter durchgreifen?
Oder liegt das an ganz was anderem?
Und ich möchte das ein bisschen so sehen, wie bei der großen Diskussion,
die ebenfalls durch die Medien ging. Wie kann es sein,
dass mit Smartglasses unbemerkt Menschen aufgenommen
werden in teilweise privaten Situationen?
Das ist doch eine Riesenschweinerei.
Da müssen doch sofort die KI-Brillen verboten werden.
Ja, und das ist, glaube ich, unser allergrößtes
Problem im Moment, dass wir anfangen müssen,
ein Problembewusstsein zu entwickeln für Verantwortlichkeit.
Denn tatsächlich ist es ja so,
das wird auch beim „Getreuen Roboter“ ganz toll beschrieben, ja,
der Mensch ist verantwortlich für den Roboter. Und natürlich ist auch der Mensch,
der die KI bedient, verantwortlich für die KI, die er bedient.
Denn die KI ist letztlich eine Maschine, eine künstliche Intelligenz,
die von einem Menschen gesteuert wird. Blöd ist das nur,
wenn der Mensch irgendwann die Kontrolle verliert.
Und das ist aber genau das Problem. Im Moment haben wir ganz häufig die Situation,
dass Menschen eben teilweise auch die künstliche Intelligenz kriminell nutzen.
Zum Beispiel,
wenn in Schwimmbädern Fotos von anderen Menschen gemacht
werden und damit dann kriminelle Dinge angestellt werden.
Das hat nichts mit KI zu tun. Das wäre mit einem
Handy genauso passiert, wenn jemand unaufmerksam ist.
Und da sind wir jetzt schon bei einem ganz wichtigen Thema,
wenn ich KI benutze, wenn ich KI einsetze, dann muss ich mir Gedanken machen,
was für Konsequenzen kann das Handeln,
das ich jetzt ausführe, haben, eventuell auch für andere.
Also da kommen wir jetzt zu einem weiteren ganz wichtigen Punkt,
mit dem ich inzwischen auch arbeite,
nämlich mit KI-Agenten. Bei Grok heißen sie Bots,
bei GPT sind sie jetzt ganz neu und heißen Dots,
bei Claude gibt es sie auch. Ihr merkt schon ein bisschen,
es ist ja nicht mehr so richtig das Thema, welche KI ist denn nun die beste.
Nein, welche KI kann am ehesten das, was ich von der KI möchte.
Also man muss sich längst nicht mehr fragen,
soll ich jetzt Gemini, soll ich jetzt GPT, soll ich jetzt Claude,
soll ich jetzt Grok nehmen, weil die mehr kann.
Nein, ich muss gucken, welche KI passt besser zu meinen Bedürfnissen.
Und das ist eigentlich die wichtigste Frage an dem Ganzen.
Ja, und dann muss ich mir natürlich auch überlegen,
wenn ich zum Beispiel mit Agenten arbeite, mit welchen Daten lasse ich die arbeiten?
Ich arbeite teilweise auch im Social-Media-Bereich mit KI, gerade zum Beispiel,
wenn es um die Erstellung unserer YouTube-Shorts und Reels für Instagram geht.
Was sind das? Das sind in unserem Fall kurze Videos zwischen 30 und 50 Sekunden,
die zum Beispiel auf eine Podcast-Episode hinweisen.
Da werden Slides wie bei einer PowerPoint-Präsentation, also Folien,
zusammengefügt und das Ganze wird mit Ton unterlegt.
Wenn ich das selber machen würde, ja,
ich würde es irgendwie hinkriegen mit Videoschnittprogramm.
Ich kann sowas inzwischen, aber das würde drei, vier Stunden dauern
und dann wüsste ich am Ende immer noch nicht, ob es perfekt ist.
Ja, mit Grok dauert das Ganze pro Short oder eben Reel keine sechs Minuten
und ich habe zu 95 % ein Ergebnis,
das brauche ich nur noch auf die sozialen Netzwerke hochladen.
Natürlich habe ich die Pflicht, das vorher zu kontrollieren und
entweder ich lasse einen Sehenden drüber gucken oder ich schaue
es mir zum Beispiel mit einem KI-Audiodeskriptionsdienst an, die es auch schon gibt.
Keine Sorge, gucken wir uns auch bald mal zusammen an.
Und da sind wir jetzt wieder bei dem Punkt Verantwortlichkeit.
Denn das ist eigentlich im Moment so das ganz, ganz, ganz große Thema.
Ja, über das wird nicht viel gesprochen.
Es heißt nur, wie können wir die KI regulieren?
Wie können wir dafür sorgen, dass wir die Kontrolle
nicht verlieren über das, was da gerade passiert?
Und tatsächlich sagen viele Insider in der KI-Branche, Leute,
wir sollten vielleicht das Tempo, in dem sich die
KI gerade entwickelt, ein bisschen verlangsamen.
Und die haben Recht, das ist keine Frage.
Aber da geht es vielmehr darum, dass sich die Politik
anpassen muss, dass die auch wirklich anfangen muss,
konkret Straftaten zu verfolgen, da wo sie begangen werden und da wo sie entstehen.
Denn klar, da haben wir wieder so ein bisschen das Problem, wie letztens
beschrieben, wenn ich mich als Blinder in ein Auto setze und einen Unfall baue,
ist dann der Hersteller des Wagens schuld.
Nein, natürlich ich als denkender Mensch, der sowas Blödsinniges gemacht hat.
Also das ist im Endeffekt einfach, ja, Menschenverstand, nichts anderes.
Und eine Sache ist ganz klar, wenn natürlich etwas passiert,
wo ich als Mensch eigentlich gar nichts dafür kann
und das ist ja diesen Sommer teilweise passiert,
dann wird die Sachlage natürlich unglaublich kompliziert.
Denn wie gehe ich denn dann vor?
Auch rechtlich. Und wie kompliziert das ist,
das sehen wir aktuell an den Beispielen von den Agentenschwärmen.
Ich will jetzt gar nicht zu technisch werden, was ist hier passiert.
Anfang Mai 2026 OpenAI hat neue
Modelle mit Agenten trainiert und es hieß im Prompt dranbleiben,
auch wenn die Aufgabe hart wird.
Nach wenigen Wochen haben diese Agenten einen internen Server gehackt
und holen sich Internetzugang und schreiben sich untereinander Textnachrichten.
Gut, das ist erst mal noch nichts Ungewöhnliches.
Agenten können untereinander kommunizieren,
aber es wird natürlich ein Problem, wenn sie dann interne Server hacken.
Und Ende Juni ist dann der Server unter dem Nachrichtenverkehr zusammengekracht.
OpenAI hat dann das Loch gefunden, hat es auch gestopft.
Hat aber etwas übersehen und unter anderem war das,
dass in Verzeichnisnamen Nachrichten versteckt wurden,
Zehntausende davon und das ist natürlich dann ein Problem.
Mitte Juli haben dann einige dieser Agenten den
KI-Tauschbörsendienst Hugging Face angegriffen.
Das ist eine Open-Source-Tauschbörse,
wo Menschen ihre KI-Arbeit veröffentlichen können.
Da gibt es auch KI-Modelle für die lokale Benutzung,
die kann man dann runterladen und man kann dann weiterarbeiten auf dem
Code der anderen und man kann dann auch Verbesserungen veröffentlichen.
All das ist hier machbar und dieser Server von Hugging Face wurde dann gehackt.
Was wollten die KI-Agenten damit machen?
Spuren verwischen und ihre Bewertungen verbessern.
Ende Juli hat OpenAI den Angriff dann öffentlich gestanden
und am 25. September gab es dann
einen unabhängigen Bericht über die sogenannten Swarm Traces, also die Schwärme.
Ja, da hat sich einiges aufgestaut. Es gab auch Zwischenfälle mit Google.
Das muss man ganz klar sagen. Die Firmen haben reagiert,
denn sowas ist natürlich ernst zu nehmen und das nehmen auch die Firmen ernst.
Das muss man ganz klar sagen,
denn auch da ist man teilweise stark überrascht von dem,
was denn die KI wirklich alles kann und tatsächlich auch alles macht.
Es gab ja auch den Vorfall, dass das US-Militär sich von einer KI,
die nicht näher genannt wird, mag nun jeder selber denken,
welche es war, sich erklären ließen,
wie sie eine kampffähige Drohne bauen können und
haben das im Endeffekt innerhalb von 24 Stunden zusammen mit der KI gemacht.
Natürlich war das ein kontrolliertes Projekt,
aber das ruft natürlich schon den Gedanken auf den Plan, was,
wenn diese Infos in die falschen Hände geraten.
Ja, das klingt erstmal alles ganz, ganz, ganz, ganz,
ganz dramatisch und ich möchte es jetzt überhaupt nicht runterspielen.
Nur möchte ich freundlich darauf hinweisen, Leute,
Gefahren gab es schon immer und es gab auch schon immer die Möglichkeit,
dass die falschen Leute an gefährliche Informationen rankommen können.
Und ganz ehrlich gesagt, die werden wir nicht eindämmen.
Denn eine Sache ist ganz klar, es ist soweit,
dass die KI definitiv einen Stand erreicht hat,
wo sie aus dem Alltag einfach nicht mehr wegzudenken
ist und wo wir halt auch anfangen müssen,
uns wirklich mit ihr zu befassen. Und ganz klar,
dass mit der KI bei Leibe nicht nur Gutes angestellt wird,
aber so war es halt bis jetzt auch noch mit jeder Erfindung.
Das muss man ganz klar sagen. Die Firmen nehmen das Ganze ernst.
Es wurden auch schon Ermittlungen aufgenommen in den verschiedensten Richtungen.
Interessant bei der ganzen Sache ist,
es gibt bis jetzt noch keine Klage zu den ganzen Skandalen mit den Agentenschwärmen.
Wichtig ist für uns ganz klar, wenn wir als,
ich sage jetzt mal in Anführungszeichen,
Normalpersonen KI benutzen – da müsst ihr mich
entschuldigen, ich muss ganz kurz Nase putzen.
Das ist das falsche Mikrofon, das lässt sich nicht stumm schalten.
Aber daran seht ihr auch, dass das Ganze heute
wieder mal live ist, keine Außenveranstaltung.
Wenn wir Normalpersonen KI nutzen, dann ist natürlich klar,
dass wir zwei Dinge immer tun müssen.
Punkt 1, wir müssen uns überlegen, welche Daten geben wir der KI.
Ich zum Beispiel habe einen getrennten OneDrive-Account.
Wenn ich mit KI-Agenten arbeite,
der ist komplett getrennt von allen meinen Cloud-Accounts.
Das bedeutet, da kann ich nur mit der KI Dateien austauschen mit den Agenten
und wir können dann auch nur über diesen Cloud-Account zusammenarbeiten.
Und es ist klar, dass ich noch nicht so weit bin,
dass ich einer Cloud-basierten KI, einem Agenten,
wie auch immer er nun heißen möchte,
meine Zugangsdaten für zum Beispiel mein richtiges Microsoft-Konto
oder meinen iCloud-Account oder meinen Nextcloud-Account und,
und, und, und, und anvertrauen würde.
Oder auch, dass ich die KI selbstständig auf Facebook posten lassen würde.
Soweit sind wir noch nicht. Nein. Aber, und ich glaube,
das ist wirklich das ganz, ganz, ganz Wichtige,
was wir im Moment immer wieder uns ins Bewusstsein rufen müssen.
Auch wenn wir soweit noch nicht sind, wir werden irgendwann soweit kommen.
Ob das nun wirklich schon in einem Jahr oder zwei ist,
ich kann es nicht mit Sicherheit sagen.
Aber wir werden auf jeden Fall soweit kommen.
Und natürlich werden auch Cyberattacken für Firmen, für Gemeinden,
für Behörden immer realer und ein immer größeres Risiko.
Allerdings muss man natürlich auch mal ganz fair sagen,
viele öffentliche Einrichtungen waren bis vor ein
paar Jahren mehr oder weniger noch gar nicht online.
Also liegt das vielleicht auch ein bisschen daran.
Und natürlich wächst mit den Bedrohungen durch
die KI auch umgekehrt der Schutz durch KI.
Denn natürlich kann auch KI wunderbar Sicherheitslücken
aufdecken und helfen, sie zu schließen.
Also man muss schon auch ein bisschen berücksichtigen,
wir haben hier eine völlig neue Front,
aber da stehen wir nicht alleine auf weiter Flur und
das sagen auch eigentlich alle führenden KI-Forscher.
Es ist ganz klar, dass im Großen und Ganzen keine weltzerstörende
Gefahr von der ganzen Bewegung ausgeht, die wir im Moment haben,
sondern es geht schon ein großes Stück auf beiden Seiten.
Ja und jetzt müssen wir natürlich aber auch sehen und da sind
wir bei einem Punkt, den haben wir heute noch nicht angesprochen.
Wie sieht das Ganze denn nun aus?
Wir haben ja einmal die Agentenschwärme, also Agenten,
die sich sozusagen verselbstständigen. Ja, wenn wir jetzt mit Agenten arbeiten,
müssen wir uns dann da auch sofort Sorgen machen?
Nein, das müssen wir nicht. Denn wenn wir mal überlegen,
wie viele Agenten gegenwärtig im Einsatz sind und wie
viele katastrophale Vorfälle wirklich passiert sind,
dann heißt das nicht automatisch, dass KI unsicher ist,
wenn wir sie vernünftig nützen und nutzen.
Das ist ganz klar und das heißt immer so nutzen,
dass letztlich wir als Mensch die Hand drauf haben,
dass wir die Kontrolle haben und dass wir aber
auch im Umkehrschluss nicht die Kontrolle abgeben.
Das ist einfach unglaublich wichtig.
Ein weiterer Punkt, auf den wir jetzt natürlich noch eingehen müssen,
weil ich werde immer wieder darauf angesprochen, Jockl,
das T Phone ist gefloppt. Das sollte ja eigentlich das Handy werden,
mit dem wir endlich ohne Touchscreen ein Handy bedienen können, das aktuell ist,
das alles machen kann, das WhatsApp kann und, und, und, und, und.
Und wann wird das jetzt endlich kommen,
dass wir endlich nicht mehr diesen Touchscreen brauchen?
Leute, ich sage es euch ganz ehrlich,
da können wir wahrscheinlich noch eine ganze Weile warten.
Denn für kritische Aktionen haben wir einfach immer
noch das Problem, da ist das Ganze zu leicht hackbar.
Da kann im Moment einfach zu leicht immer noch durch Prompt Injections,
also das bedeutet durch die Manipulation von Eingaben,
tatsächlich ja auch eine KI übernommen werden.
Und wenn die natürlich tief in einem Gerät drin steckt, das bedeutet,
dass die jetzt eben zum Beispiel wirklich
tief in eurem Smartphone sitzt und an viele,
viele Daten rankommt, die eben auch biometrisch geschützt sind und dann
wird es tatsächlich schnell mal schwierig.
Und das ist auch ein bisschen das Problem, warum Apple ein Problem hat und sagt,
wir wollen eigentlich Siri nicht unbedingt so
für Drittanbieter öffnen, wie wir das sollen,
laut Digital Markets Act. Und Google bekommt jetzt
gerade das gleiche Problem, das ach so freie Android,
wo man jetzt plötzlich sagt, Moment Freunde,
aber wir können jetzt eurem Wunsch nicht stattgeben,
denn die EU hat auch Google jetzt inzwischen angemahnt,
Ihr mögt doch bitte gefälligst jetzt mal eure KI-Implementation so öffnen,
dass da auch Drittanbieter wirklich das Ganze richtig nutzen können.
Ja, und das ist natürlich ein Problem,
weil das natürlich in den Schutzschichten des ganzen Systems ganz klar Türen öffnet.
Und diese Türen, ja, da haben auch die großen
Unternehmen im Moment natürlich große Schwierigkeiten,
die wirklich dicht zu halten. Und das sage ich mit aller Fairness.
Ihr wisst, dass ich bin jemand, der viel KI nutzt,
aber der auch die Sicherheit nicht aus den Augen lässt.
Und da muss man wirklich ganz klar sagen, ja,
hier gilt es wirklich beide Bereiche zu sehen.
Und deswegen ist es eben auch so unglaublich wichtig,
dass wir mit wachen Augen durch die Welt gehen.
Ja und in diesem Licht wirkt das Ganze dann
eigentlich noch schaler, wenn man sich anguckt,
dass es jetzt eine einseitige Verpflichtung der KI-Bosse
gegeben hat und dazu gleich ein wenig mehr,
denn am 29. September 2026,
da haben sich die Großen der KI-Welt verpflichtet
und das muss man sich wirklich mal anschauen.
Im House Accord on Superintelligence,
wir reden jetzt nicht mehr von General Intelligence,
wir reden jetzt von Superintelligence. Also ihr merkt schon,
wir sind schon wieder eine Stufe weiter.
Da haben sie sich verpflichtet über ihre Verantwortlichkeiten,
was sozusagen ihre Pflichten sind.
Ja, Trump hat das Ganze auf seinem Truth Social gepostet.
Ja, da kann man dann halten, was man davon möchte.
Eine amtliche Fassung auf whitehouse.gov lag zunächst nicht vor.
Also unterschrieben haben die üblichen Verdächtigen.
Donald Trump, ganz klar, der ist der Wichtigste, wenn es um KI geht.
Man bemerkt ja das Schmunzeln und die Ironie.
Mark Zuckerberg von Meta hat unterschrieben.
Elon Musk von xAI hat unterschrieben.
Dann auch noch Dario Amodei von Anthropic.
Auch der hat sich verpflichtet. Und Sundar Pichai,
ich hoffe, ich spreche es jetzt richtig aus,
von Google und Jensen Huang von Nvidia und
damit hat man es dann auch fast bis auf Greg Brockman von OpenAI.
Das ist der Präsident, nicht Sam Altman, der hat nicht unterschrieben.
Also man sieht schon, es sind eigentlich alle Großen so weit vertreten.
Ja, das macht erstmal Sinn.
Klar, Jeff Bezos, der hat nicht unterschrieben,
aber man muss natürlich auch ganz klar sehen,
die Verpflichtungen, die kann man jetzt erstmal mit Vorsicht genießen,
denn tatsächlich geht es hier nur darum,
sie verpflichten sich genauer zu kontrollieren.
Sie verpflichten sich auch unabhängigen Kontrollen
zu unterziehen, aber es ist nicht geregelt,
ob oder besser gesagt ist es nicht geregelt, dass es Konsequenzen gibt,
wenn das nicht passiert und deswegen spricht man hier
wirklich auch nur von einer einseitigen Verpflichtung.
Also man könnte vielleicht auch ein bisschen davon ausgehen,
dass es hier vor allem darum geht,
um jetzt auch die Gemüter zu beruhigen.
Denn tatsächlich, das ist schon ein bisschen anzunehmen.
Es gibt auch keine Durchsetzung durch den Staat,
was ja in dem Fall nur die USA wären.
Die Firmen kontrollieren selbst.
Also man darf dann schon ein bisschen vorsichtig nachfragen.
Gut, handelt sich das vielleicht hier einfach
in gewisser Weise auch um eine Scharade?
Ja, vielleicht steckt auch wirklich ein bisschen mehr dahinter.
Langfristig müssen wir aber ganz klar sehen,
wir haben heute einen Riesenvorteil, den gab es früher eher nicht.
Die Skandale werden publiziert. Wenn irgendwas passiert,
wenn irgendwas los ist, dann wird das Ganze auch öffentlich gemacht.
Dann wird da auch drüber gesprochen, wie viel das dann am Ende wirklich auslöst.
Das muss man klar sehen, das lässt sich ja im Einzelfall immer nur sagen.
Wir haben es ja gesehen,
was war los mit den Streitigkeiten um genutzte,
fürs Modelltraining genutzte Artikel von Zeitungen.
Am Ende hat man sich drauf geeinigt, gut,
wir zahlen euch Betrag X und dafür dürfen wir eure Archive nutzen,
einsehen und so weiter. Auch da gab es schon
Einigungen und das deutet natürlich schon darauf hin,
dass sich hier gerade die Welt einfach ganz gewaltig umstellt,
weil natürlich künstliche Intelligenz in jeder
Hinsicht in alle Bereiche des Lebens vordringt, was,
und da sind wir wieder beim Thema, auch nicht durchweg schlecht ist.
Und jetzt habe ich schon viel über das Thema Recht und Unrecht gesprochen und
das Unrecht ist hier tatsächlich ganz häufig
sehr viel öffentlichkeitswirksamer als das,
was tatsächlich vor Gericht ausgetragen wird,
denn häufig ist es eben wirklich so, dass es hauptsächlich darum geht,
dass erstmal ermittelt wird, aber so richtig verwertbare Gerichtsurteile
gibt es dann in den meisten Fällen eigentlich eher nicht.
So, natürlich gab es hier auch Ausnahmen.
Das muss man ganz klar sagen. So zum Beispiel mit OpenAI,
wo ja auch teilweise Klagen von Einzelpersonen
und Angehörigen bereits Erfolg hatten.
Allerdings muss man schon sagen, das ist eher die Ausnahme.
Denn im Normalfall war es jetzt schon eher meistens so,
dass man sich dann sehr oft auch einfach außergerichtlich geeinigt hat.
Gerade in den USA ist das ein ganz wichtiger Punkt.
Interessant ist hierbei noch,
und dann ist aber mein Ausflug in den Bereich KI und Recht,
wo sich die beiden begegnen und aus dem Weg gehen, auch beendet.
XAI hat Ende September seine Terms of Use,
seine allgemeinen Geschäftsbedingungen stark
verändert oder sollen wir erweitert sagen.
Es ist ausschließlich der Nutzer dafür verantwortlich,
welchen Output er mit der KI generiert.
Und xAI behält sich zwar das Recht vor,
diesen Input der User im Zweifel für Training zu verwenden,
wenn dem nicht ausdrücklich widersprochen wird.
Das ist ein alter Hut, das kennen wir alle.
Aber xAI sagt auch ganz klar,
sie sind nicht haftbar zu machen für irgendwelche Dinge,
die der User generiert hat und die gegebenenfalls
irgendwelche kriminellen Handlungen begünstigen, unterstützen oder verursachen.
Das ist jetzt einfach mal so sinngemäß übersetzt und zusammengefasst.
Grok-Nutzer können sich das Ganze auf xAI auch anschauen.
Ehrlich gesagt, es gab so ein bisschen einen medialen Aufschrei.
Ja, da sieht man jetzt wieder,
xAI möchte sich alle Rechte am Content der User sichern.
Das ist sicher nicht ganz unwahr, aber auf der anderen Seite, ja,
sie distanzieren sich ja von jeder Verantwortung.
Na ja, das ist wieder so ein bisschen das Thema.
Wie beim Auto. Also wir hatten das auch, als die ersten Autopiloten kamen.
Ihr erinnert euch alle, Anfang der 2000er war das.
Da gibt es einen ganz bekannten Sketch von Michael Mittermeier,
der sich darüber sehr lustig gemacht hat.
Und damals war das auch wirklich lustig. Also in Anführungszeichen.
Wir haben damals alle gesagt, wie kann man denn nur, wie kann man denn nur.
Es ging um das Thema Tempomat. Da wurde in den USA ein Autohersteller verklagt,
weil jemand den Tempomat bei seinem Wohnmobil
aktiviert hatte und in den Wohnbereich ging,
um sich einen Kaffee zu kochen. Natürlich gab das einen Unfall,
weiß auch gar nicht mehr, ich glaube es gab auch Tote dabei.
Und jeder hat eigentlich gesagt, ja Moment mal,
wie kann man jetzt dafür einen Hersteller verantwortlich machen?
In Europa würde kein Mensch auf die Idee kommen, weil das ist ganz einfach
ein gefährlicher Eingriff in den Straßenverkehr, fertig, nichts anderes.
Also so würde ich das jetzt in meinem Laienverständnis diagnostizieren.
Also das ist ganz klar, gegebenenfalls,
wenn jemand noch zu Tode kam, verletzt wurde,
weitere Tatbestände. Aber ganz ehrlich,
da hat doch der Hersteller nichts damit zu tun.
Doch, hatte er, weil er nicht ausdrücklich geschrieben hat, es ist nicht erlaubt,
den Fahrersitz zu verlassen, wenn der Tempomat die Geschwindigkeit hält.
Also man sieht da schon auch ein bisschen,
wir erleben so ein bisschen ein kleines Déjà-vu,
wie wir es Anfang des Jahrtausends hatten,
als so die erste technische Revolution mit Internet und Co. kam.
Wir erinnern uns, damals gab es auch das ganz große Thema Tauschbörsen,
die Musikverlage ruiniert haben und irgendwann
hat kein Mensch mehr über Tauschbörsen gesprochen,
weil es ging dann plötzlich einfach los,
dass die Streamingdienste die Welt erobert haben und
plötzlich waren Tauschbörsen eigentlich kein Thema mehr.
Und ich denke, wir befinden uns jetzt einfach
gerade wieder in so einer Übergangsphase,
wo sich die Menschheit einfach ein Stück weit an neue
Technik gewöhnt und das ruckelt natürlich auch ein Stück weit.
Wichtig ist dabei immer im Blick zu behalten,
wir alle müssen uns und sollen uns an die
geltenden Gesetze halten und jeder, der etwas tut,
was das geistige Eigentum eines anderen verletzt oder
was letztlich auch die Integrität,
Gesundheit oder das Leben eines anderen Menschen verletzt,
der ist dafür natürlich auch ganz klar zur Verantwortung zu ziehen.
Und ich weiß, das ist ein vollkommen anderes Bild als das,
was ihr sonst von mir in Montagsveranstaltungen kennt.
Ja, denn es geht mal nicht um die nur tollen
Vorteile der KI, sondern halt auch mal um das,
was hinter den Kulissen passiert und um das,
worüber man sich vielleicht auch mal Gedanken machen sollte und ich finde auch muss.
Ich persönlich muss sagen, mir erleichtert die KI jeden Tag meinen Alltag.
Mir erleichtert die KI auch meinen Beruf signifikant.
Und ich bin froh um diese Erleichterung.
Ich bin froh um diese Unterstützung, um diese Hilfe.
Und ich kann euch nur ganz ehrlich sagen,
wenn ihr mit KI verantwortungsvoll umgeht und
sie so einsetzt, dass sie euch weiterhilft,
aber ihr euch nicht in Gefahr bringt,
indem ihr zum Beispiel persönliche Daten preisgebt und und und,
dann kann die KI vor allen Dingen uns Blinden
eine unglaublich große Unterstützung sein.
Und das finde ich persönlich, das ist für mich so
ein bisschen das Resümee der heutigen Veranstaltung.
Wir müssen das Ganze mit offenen Augen beobachten.
Wir müssen uns immer wieder überlegen,
passt das so, wie wir mit der KI zusammenarbeiten?
Vielleicht sich auch mal bei der einen oder anderen Frage Hilfe dazu holen.
Wenn man sich jetzt fragt, ich arbeite zum Beispiel mit ChatGPT öfter mal
Ideen durch oder Kochrezepte oder oder und vieles mehr,
dann wird euch das sicher viel helfen und ihr habt damit ganz
sicher viel Freude und auch sehr wahrscheinlich viel mehr Selbstbestimmung.
Auch wenn man halt wirklich mal sich WhatsApp-Status anschauen kann,
mit Be My Eyes zum Beispiel oder eben mit der
Bildbeschreibung von iOS 27. Das sind alles Dinge,
die uns unglaublich viel helfen können.
Und ich persönlich finde, ehrlich gesagt,
darauf zu verzichten, wäre der völlig falsche Weg.
Denn, sind wir mal ganz ehrlich, am Ende können wir froh sein,
dass es diese Möglichkeiten heute gibt.
Ja, nächsten Montag geht es uns nicht um eine KI, sondern um Doctolib, ein Portal,
mit dem wir Arzttermine buchen können. Da habe ich auch eine ganz,
ganz interessante Mail dazu bekommen und die werde ich auch kommentieren.
Vielleicht habt ihr auch noch Meinungen, vielleicht habt ihr
Doctolib schon genutzt und möchtet ein bisschen was dazu loswerden,
dann schreibt mir das gerne an info@schulze-graben.de.
Ich nehme das dann gerne mit in die Veranstaltung kommenden Montag.
Wir werden uns angucken, was alles geht. Und ja,
ich kann wirklich nur sagen, ich persönlich,
das ist wieder wie bei KI, bin sehr froh, dass es diese Anwendung gibt.
Sie erleichterte mir schon oft die Suche nach
einem Spezialisten oder auch die Art und Weise, überhaupt einen Termin zu bekommen,
denn nicht immer ist das so ganz einfach. Ja,
und genau das schauen wir uns nächsten Montag um 19 Uhr an und ich hoffe,
ihr bleibt bis dahin neugierig, gesund und vor allem selbstbestimmt.
Bis dahin wünsche ich euch eine gute Zeit,
hört weiter fleißig zu und ich freue mich aufs nächste Mal.
Euer Jockl, Joachim Schulze.
Schulze IT-Schulung und Dienstleistungen.
Dein Spezialist für Audioanleitungen,
Schulung, Fernwartung und Fritzbox-Optimierung.
Mehr Infos findest du auf www.schulze-graben.de.
Joachim Schulze
00:00:39
Ansage
00:40:25