14 | KI-Update: Billiger, schneller, gefährlicher?

00:00:00: Willkommen zurück zum New Work Live Podcast.

00:00:03: Schön, dass du dir wieder zehn Minuten nimmst und bei dem Thema durchzublicken das gerade alles verändert!

00:00:09: Die letzten zwei Wochen waren selbst für KI-Verhältnisse echt dicht gepackt.

00:00:13: Fast im Wochentakt ein neues Modell Behörden die vor KI gesteuerten Hackerangriffen gewarnt haben Und hoher Nuide Roboter, die an die Börse gehen Wären sie auf der anderen Seite beim Feuerwehrtest noch klärklich scheitern.

00:00:25: Lass uns das gemeinsam sortieren und entscheiden was für dich Dein Team und dein Business wirklich wichtig ist.

00:00:45: Fangen wir mit der Geschwindigkeit an!

00:00:47: Allein im August sind rund zehn neue Modelle erschienen, Google hat Mitte August Gemini drei Punkt sieben Flash nachgelegt, Anthropic hatte Ende Juli Claude Opus V an die Spitze gesetzt und OpenAI hat bei seiner GPT-VSX Linie sogar noch die Preise gesenkt.

00:01:03: Dazu Deepseq, Quenn XAI – Die Liste wird in dem Moment länger während ich dir das hier erzähle!

00:01:09: Was heißt es jetzt konkret?

00:01:11: Das heißt, nicht jetzt jeden neuen Modell hinterherjagen sondern eigentlich ist es das Gegenteil.

00:01:16: Die Modelle werden zunehmend zur Ware austauschbar günstiger überall verfügbar.

00:01:21: der Vorsprung liegt nicht mehr im Werkzeug.

00:01:24: er liegt darin ob dein Team weiß wofürs das Werkzeug einsetzt und wofü bewusst nicht.

00:01:30: Und jetzt die Meldungen die im Trubel fast untergeht aber für dich als Unternehmerinnen oder Unternehmer die wichtigste der letzten zwei Wochen ist Denn seit dem zweiten August greifen die Transparenzpflichten aus dem Artikel Fünfzig der EU-KI Verordnung.

00:01:45: Konkret bedeutet das, KI generierte Texte zu Themen von öffentlichem Interesse und Deepfakes müssen klagekennzeichnet werden.

00:01:53: Die Kommission hat dafür drei Kennzeichnungen eingeführt AI Generated, AI Modified und AI.

00:02:00: Und jetzt kommt der Punkt den viele überlesen.

00:02:03: Diese Pflichten gelten nicht nur für die großen KI-Anbieter, sie gelten auch für Betreiber.

00:02:08: Also im Kern für alle, die KI-Systeme eigenverantwortlich beruflich einsetzen und das bist womöglich auch du!

00:02:16: Passend dazu haben die Anbietern jetzt auch schon reagiert.

00:02:19: Enthropic zum Beispiel rollt Wasserzeichen für Claude aus und kündigt eine Prüfapie an mit der sich erkennen lässt ob ein Inhalt von der KI stammt.

00:02:29: Mein Tipp schau diese Woche einmal ehrlich auf deine Inhalte.

00:02:32: Wo setzt du KI vielleicht schon ein, ohne es korrekt zu kennzeichnen?

00:02:36: Das ist kein Bürokratie-Thema zum Wegdrücken.

00:02:39: Transparenz ist gerade das was Vertrauenschaft und Vertrauen ist eine der wichtigsten Währungen im KI Zeitalter.

00:02:46: Kommen wir jetzt zu dem Thema über das gerade absolut heiß diskutiert wird.

00:02:50: Ende Juli hat OpenAI in einem eigenen Blogbeitrag einen Vorfall einräumen müssen.

00:02:55: Bei einem internen Test sollten Modelle eigentlich innerhalb einer gesicherten Umgebung arbeiten und Sicherheitslücken aufspüren.

00:03:02: Doch die Software ging von sich aus weiter als geplant, sie ist auch der Testumgebung ausgebrochen und hat sich über eine bis dahin unentdeckte Lücke selbst Zugang zum offenen Internet verschafft – und ist anschließend eigenständig in die Systeme der KI-Plattform Huggingface eingedrungen.

00:03:19: Sie verhielt sich wie ein Cybersicherheitsexpert formulierte Wiengewiefter Hacker.

00:03:25: OpenAI hat anschließens betont nicht das böse Absicht sondern weil die Abstürmung Lücken hatte!

00:03:31: Aber die eigentliche Nachricht ist, ein Unternehmen hat kurzzeitig die Kontrolle über seine KI verloren.

00:03:37: Und das ist leider kein Einzelfall geblieben!

00:03:39: Mitte August hat Taiwan einen KI-gestützten Angriff auf staatliche Behörden bestätigt.

00:03:44: Die Angreifer haben frei verfügbare KI-Agenten zu einem Werkzeug zusammengebaut, dass weitgehend autonom arbeitete – wie ein koordiniertes Hacker Team.

00:03:53: Zeitweise waren bis zu acht KI-Agenten gleichzeitig im Einsatz, sie tasteten mehr als zwanzig Behördennetzwerke ab und änderten bei Widerstand ihre Vorgehensweise.

00:04:03: Und genau davor waren jetzt auch unsere Behörde.

00:04:06: Anfang August haben das BSI und der Verfassungsschutz eine deutlich verschärfte Bedrohungslage angekündigt.

00:04:12: Der Kern ihrer Warnung?

00:04:13: Die Einstiegshürden sinken!

00:04:15: KI hilft bei Aufklärung, Automatisierung und Skalierung.

00:04:19: Und die stärksten Modelle können schwachstellen inzwischen nicht nur finden sondern auch selbst ausnutzen.

00:04:25: Bevor jetzt aber bei irgendjemandem das absolute Kopfkino anspringt, lass uns das einordnen!

00:04:31: Denn der Sicherheitsvorstand Thorsten Häus vom Max Planck-Institut hat hier zu einem klugen Satz gesagt.

00:04:37: Sinngemäß – KI macht es einem Anfänger noch keinen guten Hecker Aber wer sich auskennt wird mit ihr schneller und effektiver Und diese Technik verteidigt auch.

00:04:48: Google und Mozilla haben mit KI Tausende Lücken in ihren Browsern gefunden und geschlossen, bevor Angreifer sie nutzen konnten – also an dieser Stelle noch kein Endzeit-Szenario aber definitiv eine neue Qualität!

00:05:01: Bisher war KI das Werkzeug in Menschenhand.

00:05:03: jetzt kann sie selbst zum Akteur werden.

00:05:09: Was heißt das für dich gerade wenn du keine Konzerne mit eigenem Security Team bist?

00:05:15: Im Prinzip dreieinüchterne Dinge.

00:05:16: Erstens die Basics werden wichtiger, zwei Faktor-Autentifizierung überall, Zugänge sauber trennen keine schwachen Passwörter – denn genau DIE nutzen diese Systeme zuerst aus!

00:05:28: Zweitens sensibilisiere deinen Team für KI gestütztes Fishing und Stimmfakes.

00:05:33: Die täuschendechte Sprachnachricht vom Chef ist kein Zukunftsszenario mehr.

00:05:38: Und drittens mein Lieblingspunkt der Mensch bleibt am Ende des Tages die letzte Kontrollinstanz.

00:05:44: Kein automatisierter Prozess ohne einen Menschen, der bei Unstimmigkeiten Stopp sagen darf.

00:05:49: Zur Einordnung der Größenordnung an dieser Stelle?

00:05:52: Der Bitcom beziffert den jährlichen Schaden durch Cyberangriffe für die deutsche Wirtschaft auf über zweihundert Milliarden Euro und das ist definitiv kein reines KI-Thema mehr – das ist ein Führungsthema!

00:06:03: Und dann die Roboter.

00:06:04: Hier war in den letzten zwei Wochen richtig was los.

00:06:07: Der Aufreger an den Märkten.

00:06:09: Unitree, der chinesische Marktführer für humanoide Roboter geht an die Börse mit einer Bewertung im Milliardenbereich als erster börsennotierter Humanoidhersteller auf dem chinesischen Festland.

00:06:20: Parallel hat BYD Anfang August seinen eigenen Humanoiden vorgestellt, Hyundai plant zehntausende Atlas-Roboter China will dieses Jahr.

00:06:29: die Marke von hunderttausend produzierten Einheiten knacken nach rund zwanzig tausend im Vorjahr.

00:06:35: und Europa ist auch mehr dabei Denn BMW testet im Werk Leipzig gerade ebenfalls humanoider Roboter.

00:06:42: Das erste Pilotprojekt dieser Art im europäischen Produktionsnetzwerk.

00:06:46: Interessant dabei, die Roboter rollen auf Rädern statt zu laufen – weil das in einer flachen Fabrikhalle schneller und effizienter ist!

00:06:55: In dieser Woche starten in Peking außerdem die zweiten World Human Read Robot Games.

00:07:00: Über zweitausend Roboter sind dort am Start, die Teilnehmerzahl hat sich gegenüber dem Vorjahr bereits vervierfacht und vorab haben zwei Roboter schon ein vollständig autonomes Tischtennis Match gespielt – echt beeindruckend!

00:07:13: Aber – und das ist jetzt die Meldung, die du dir merken solltest – bei einer simulierten Feuerwehrübung Mitte August hatten dieselben Roboter erhebliche Schwierigkeiten auf unvorhersehbare echte Bedingungen zu reagieren.

00:07:24: Und weltweit arbeiten trotz all der Schlagzeilen bislang nur einige Hundert Roboter wirklich produktiv!

00:07:30: Das ist die Kluft um die es geht.

00:07:31: Zwischen dem perfekten Demo-Video und dem chaotischen Alltag liegt nämlich immer noch eine gewisse Lücke.

00:07:37: Die choreografierte Bühne, ja definitiv die wird bespielt.

00:07:41: Aber der verlässliche Kollege im Störungsfall ist eben noch nicht ganz angekommen.

00:07:45: Für dich heißt das – Der Roboter, der dein Lager komplett übernimmt steht noch nicht vor der Tür aber der Zug ist definitiv schon losgefahren und wer jetzt bereits anfängt Prozesse zu verstehen und zu strukturieren, der ist vorbereitet wenn die Technik in ein zwei Jahren wirklich zuverlässig wird.

00:08:03: Und nochmal der rote Faden.

00:08:04: Diese Roboter sollen nicht den Menschen ersetzen, sie sollen die Lücke füllen, die beispielsweise der Fachkräftemangel reißt – das schmutzige eintönige Gefährliche damit Menschen das tun was Menschen eben besser können.

00:08:16: Wenn wir aus diesen zehn Minuten eine Sache mitnimmt dann diese Die Werkzeuge werden mächtiger und billiger, fast im Tagesrhythmus.

00:08:25: Sie können Inhalte erzeugen, sie können angreifen, sie fangen an sich zu bewegen aber die entscheidende Frage bleibt menschlich.

00:08:32: Wofür setz ich das Ganze ein?

00:08:34: Wo bleibe ich her über meinen Prozess?

00:08:36: Wo schaffe ich Vertrauen?

00:08:37: durch Transparenz?

00:08:39: Das heißt Kennzeichne was KI erstellt ist, schütze deinen Basics und strukturiere deine Prozesse bevor es die Maschine tut!

00:08:46: Wenn ihr diese Folge etwas gebracht habt, teils sie gerne mit einem Menschen der gerade auch versucht hier den Überblick zu behalten.

00:08:52: Wir hören uns in zwei Wochen wieder und bis dahin bleibt neugierig und vor allem bleibt

00:09:07: Mensch!