18 | Wie schnell ist zu schnell? KI zwischen Warnung und Wettlauf

00:00:00: Willkommen zurück zum New Work Life Podcast.

00:00:03: Schön, dass du dir wieder zehn Minuten nimmst um bei dem Thema durchzublicken wie das gerade alles verändert.

00:00:09: Die letzten beiden Wochen standen ganz im Zeichen einer Frage Wie schnell ist zu schnell?

00:00:16: Ein Roboter geht auf einem viralen Video plötzlich aus seinen Entwickler los.

00:00:19: ein junger Kreativforscher steigt aus und wirft der Branche vor sie spiele mit unseren Leben.

00:00:24: Der Enthropic Chef fordert eine Entwicklungsbremse und Europas top Ökonomen warnen, dass unser Wohlstand und unsere Sicherheit auf dem Spiel stehen.

00:00:32: Dazu die üblichen neuen Modelle und ein echter Paupenschlag aus der Wissenschaft!

00:00:50: Kurz zum Tempo und dann zum Wesentlichen – es gibt mal wieder neue Flaggschippe Dazu drei frische Milliarden für Mistral.

00:01:01: Viel spannender, als jedes einzelne Modell ist.

00:01:04: aber die Zahl, die ich diese Woche am wichtigsten finde.

00:01:06: Unternehmen erhöhen rein, weil sie IFKI-Budgets aber nur rund zweiundzwanzig Prozent schaffen ist... ...die Technik tatsächlich auch erfolgreich in die Anwendung zu bringen!

00:01:15: Also vom netten Pilotprojekt in den echten wertschöpfenden Regelbetrieb zu kommen.

00:01:20: Über dreiviertel bleiben auf diesem Weg aktuell noch stecken und der Grund?

00:01:24: Der ist fast nie das Modell sondern fehlende klare Anwendungsfälle und vor abdefinierte Prozesse.

00:01:31: Denn genau da entscheidet sich, ob KI bei dir Geld bringt oder am Ende nur Geld kostet.

00:01:37: Einen Dichtblick aus der Wissenschaft, den gab es auch!

00:01:40: Eine KI von OpenAI soll nämlich eines der legendären Millennium-Probleme der Mathematik geknackt haben.

00:01:46: Der Haken ist jedoch – der OpenAI-Beweis ist umstritten und Fachleute prüfen noch, aber tatsächlich hält.

00:01:53: Und das ist die Lektion im kleinen Wien-Rosen.

00:01:55: Ein beeindruckendes Ergebnis ist nicht automatisch ein richtiges, es braucht weiterhin uns als Menschen, die es prüfen können!

00:02:03: Und jetzt zum Thema dass die letzten beiden Wochen dominant bestimmt hat Welche.

00:02:08: hast du das Video gesehen, dass gerade viral gegangen ist?

00:02:10: Ein humanoider Roboter geht beim Test plötzlich auf seinen Entwickler los und tritt ihn sogar die Fernbedingung aus der Hand.

00:02:17: Es wirkt wie eine Szene aus einem Science Fiction Film und wird genau deshalb aktuell millionenfach geteilt.

00:02:23: Die nüchterne Einordnung vorweg, das ist noch keine Rebellion der Maschinen.

00:02:28: Fachleute führen so etwas auf einen Fehler in der Kette aus Sensorik und Steuerung zurück.

00:02:33: aber der Punkt ist diese Roboter sind schwer stark und schnell.

00:02:38: Gibt ein Sensor wird aus einem Helfer im Sekunden ein Risiko.

00:02:42: Kein Skynet-Problem sondern ein echtes Sicherheitsproblem.

00:02:47: Passend dazu tobt gerade in der Branche eine Debatte die ich bemerkswert finde.

00:02:52: Ausgelöst hat sie ein junger KI-Forscher, der erst von OpenAI zu Entropic gewechselt hat und jetzt beschlossen hat die Branche ganz zu verlassen.

00:03:00: Sein Vorwurf an die großen Tabuere – Sie würden im Wettlauf um sich selbst verbessernde Modelle mit unserem Leben spielen!

00:03:07: Rückentdeckung bekam er ausgerechnet von Entropic's eigenem Alignment Chef, der das Risiko dass KI im kommenden Jahrzehnt die ganze Menschheit auslöschen könnte für über zehn Prozent beziffert hat.

00:03:19: Und dann hat sich dessen Chef Dario Anodates Wort gemeldet mit einem langen Grundsatzpapier, in dem er eine Entwicklungsbremse fordert.

00:03:27: Das heißt besonders leistungsfähige KI-Systeme sollen nicht schneller wachsen als Sicherheit und Kontrolle mithalten können.

00:03:33: Seine Sorge ist die sogenannte Rekursive Selbstverbesserung.

00:03:36: KI hilft ihre eigenen noch stärkeren Nachfolger zu bauen und den Fortschritt so beschleunigt dass Menschen mit dem Prüfen und Verstehen nicht mehr hinterherkommen.

00:03:46: Bemerkenswert dabei, Sam Oldman und sogar Elon Musk stimmen ihm in der Grundrichtung zu.

00:03:51: So einig sieht man diese Leute tatsächlich selten!

00:03:54: Aber auch Widerspruch kommt prompt – und ausgerechnet von einem, der es ebenfalls wissen müsste … dem Video-Chef Jensen Hoang.

00:04:01: Auf der Dreamforce hielt er dagegen und sagte, Tempo und Sicherheit seien kein Widerspruch, man könne beides haben.

00:04:08: Seine klare Ansage an die Entwickler?

00:04:10: Lauf so schnell ihr könnt….

00:04:12: Pausieren nur, wenn ein Produkt nicht sicher ist oder die Kontrolle verloren geht.

00:04:16: Man ahnt warum der Chef des größten KI-Chip Herstellers keine Vollgämpfung will.

00:04:20: Die Bremse hat natürlich auch ihren Preis und da lohnt sich der zweite Blick denn so ernst die Warnungen sind sich vorsichtig zu zeigen passt natürlich auch perfekt zu den anstehenden Börsen gängen Denn wer selbst Regeln vorschlägt verhindert womöglich auf strengere staatliche und teure Sicherheitskontrolle.

00:04:37: Das kann sich vor allem leisten, wer bereits groß ist und so eine Eintrittshürde für kleinere Wettbewerber schaffen.

00:04:44: Und dann kommt fast zeitgleich eine ganz andere Warnung – und zwar aus Europa mit ungekehrter Stoßrichtungen!

00:04:50: Eine hochkarätige Allianz von Top-Ökonomen darunter einen Wirtschaftsnovellpreisträger warnt wörtlich der aktuelle Zustand bedrohe den Wohlstand die Souveränität und Sicherheit aller Europäer.

00:05:02: Denn ernüchternd ist an dieser Stelle, Europa hält aktuell nur rund fünf Prozent der weltweiten KI-Rechenzentrumskapazität und die europäischen Modelle entwickler zusammen erwirtschaften weniger als zwei Prozent des Umsatzes von nur zwei US-Konkurrenten.

00:05:17: Und da hast du schon das ganze Dilemma.

00:05:18: in einer Folge Die eine Seite sagt wir sind zu schnell, die andere sagt Europa ist zu langsam – und beide stimmt!

00:05:24: Zu dich als Unternehmerin oder Unternehmer heißt es, weder Panik noch Schulterzogen sondern Baukompetenz auf und mach dich unabhängig wo du kannst.

00:05:33: setzt KI bewusst ein mit einem Menschen der gleichzeitig noch die Kontrolle behält.

00:05:38: das ist wahrscheinlich das vernünftige Mittelmaß zwischen alles ausbremsen und blind auch Vollgas stellen.

00:05:44: Kommen wir zum Schluss nochmal weg von der großen Debatte hin zu dem was gerade konkret auf deinem Schreibtisch landet denn bei den KI Werkzeugen vollzieht sich gerade leise einen Generationswechsel.

00:05:54: Fangen wir mit einer Meldung an, die dich vielleicht sogar schon direkt betroffen hat.

00:05:58: OpenAI hat die Custom-GPTs für Privatkonten dichtgemacht.

00:06:02: Seit Mitte August können Free plus und pro Nutzahl keine neuen Custom GPTs mehr erstellen oder veröffentlichen.

00:06:08: Auch der GPT Store ist für sie zu.

00:06:11: Bestehende laufen zwar weiter aber neue bauen das geht nur noch in einem Business- oder Bildungsworkspace.

00:06:17: Für viele Solos Selbstständige ist das ein Einschnitt!

00:06:20: Der eigene Angebots- oder Einwandts-GpT mit den echten Kundenanfragen war auf der erste echte Aha-Moment mit KI.

00:06:27: OpenAI macht dabei keinen Hehl aus der Stoßrichtung.

00:06:31: CustomGPTs gelten offiziell als Vorgängerformat der neuen mächtigere Workspace Agents.

00:06:37: und genau da setzt auch die zweite Meldung an, sie zeigt was an die Stelle des simplen GPTs tritt – der autonome Agent!

00:06:45: XAI also Elon Musk's Firma hat GrogBot für Unternehmen ausgerollt.

00:06:50: Im Grunde ein kleines Team aus KI-Kollegen.

00:06:53: Du übergibst einem Board eine echte Aufgabe und er zieht sich eigenständig die notwendigen Informationen, greift auf die Tools zu, die du benutzt.

00:07:01: Und du schreibst ihm wie einen Kollegen der sich meldet wenn er fertig ist oder eine Entscheidung braucht.

00:07:07: Einen Ablauf zeigst du ihm einmal und dann wiederholt er ihn.

00:07:11: Am stärksten genutzt wird er laut Hersteller nicht in der IT sondern tatsächlich im Vertrieb, Recruiting, Marketing & Financing Team.

00:07:17: Die Richtung ist also klar weg vom Chatboard den man sich zusammenklickt, hin zum Agenten, dem man komplette Aufgaben dedikiert.

00:07:25: Für dich heißt es auf zwei Jahre lang!

00:07:26: Erstens ganz praktisch Wenn du Cast and GPTs gebaut hast dann sicher dir jetzt auf jeden Fall die Anweisung des Wissen und Abläufer dahinter denn da liegt ja schon gewisser Wert Und der ist natürlich übertragbar.

00:07:37: Und zweitens bau dein Kerngeschäft nicht auf ein einziges Anbieterfeature auf Denn was eine Plattform gibt kann sie dir natürlich auch wieder weggehen Glaubenrissener Aufgabe, Ergebnis prüfen und den Blick behalten in welchen Konten und Daten näher unterwegs ist.

00:07:55: Wenn wir eine Sache mitten sind dann diese!

00:07:57: Die spannende Frage rund um KI ist gerade nicht was sie alles kann sondern wie wir das Tempo in den Griff bekommen?

00:08:03: Die einen warnen, die seien zu schnell, die anderen sagen Europas viel zu langsam.

00:08:07: Und mittendrin stichst du mit der Frage wie du das für dich nutzt ohne die Kontrolle abzugeben.

00:08:13: und die Antwort ist unbequem einfach Kompetenz aufbauen sodass du klar entscheiden kannst, wo die KI dir wirklich etwas bringt.

00:08:21: Und natürlich solltest du auch immer einen Menschen im Buch behalten der prüfen kann was die Maschine geliefert hat.

00:08:27: Wenn ihr diese Folge etwas gebracht habt dann teilt sie gerne mit einem Menschen der gerade auch versucht hier den Überblick zu behalten und in zwei Wochen hören wir uns dann wieder.

00:08:35: Bis dahin bleibt neugierig und vor allem bleibt Mensch!

00:08:41: Dein Format mit den wichtigsten KI-Trends für dein Unternehmen.

00:08:45: Du möchtest beim nächsten Mal live dabei sein?

00:08:47: Schau in die Show Notes!