19 | Du nutzt KI. Aber wer hat die Kontrolle?

00:00:00: Eva Lindenberg - New Work Life Podcast Host Willkommen zurück zum New Work Life Podcast. Schön, dass du dir wieder zehn Minuten nimmst, um bei dem Thema durchzublicken, das gerade alles verändert. Die letzten beiden Wochen hatten einen eher düsteren Unterton. Bill Gates spricht von einer Milliarde möglicher Todesopfer durch KI, die Chefs von OpenAI und Anthropic bitten den UN-Sicherheitsrat um globale Regeln und der US-Präsident nennt das alles einen Schwindel. Nebenbei wird ChatGPT zur Werbefläche und KI-Agenten ziehen still und leise in die Unternehmen ein. Willkommen im New Work Life Podcast. Dein Format mit den wichtigsten KI-Trends und die Frage, was können Unternehmen heute konkret tun, um auch 2030 noch erfolgreich zu sein? Fangen wir mit einer Schlagzeile an, die du vermutlich gesehen hast. Bill Gates warnt, KI könnte die komplette Menschheit auslöschen. Schauen wir mal genauer hin, denn ganz so hat er es nicht gesagt. In einem NBC-Interview meinte Gates, KI sei mächtig genug, um Ereignisse auszulösen, die eine Milliarde Todesopfer fordern könnten. Eine vollständige Auslöschung hält er laut diesen Berichten allerdings für schwer umsetzbar. Sein Hauptproblem ist dabei nicht die Maschine, die sich verselbstständigt, sondern der Mensch mit den bösen Absichten. Eine mächtigere Waffe als Menschen mit den neuesten KI-Werkzeugen habe es so noch nie gegeben. Sein Fazit? Es muss verpflichtende Sicherheitsregeln und eine staatliche Aufsicht geben, denn die Selbstregulierung alleine reicht nicht mehr. Das ist ein wichtiger Unterschied und er betrifft nicht nur Regierungen. Denn wenn Missbrauch das Hauptrisiko ist, hat jeder ein Problem, der zum Beispiel Zahlungen freigibt oder Sprachnachrichten von Vorgesetzten bekommt. Die unspektakuläre, aber wirksame Antwort? Dinge wie ein Vier-Augen-Prinzip bei Freigaben oder eine feste Rückrufregel bei ungewöhnlichen Anweisungen. Bemerkenswert ist, wer inzwischen mitwarnt. Es sind die Labore selbst. Mitte des Monats forderte Anthropic-Chef Dario Amodei, das Tempo zu drosseln und unabhängigen Prüfern dauerhaft Zugang zu den Modellen zu geben. Altman und Musk schlossen sich ihm an. NVIDIA-Chef Huang hielt die Ängste zunächst für übertrieben. OpenAI erklärte laut Berichten intern, man sei zum langsamer Machen bereit, wenn die Konkurrenz mitzieht. Nur berührt eine gemeinsame Bremse das US-Kartellrecht, weshalb OpenAI beim Kongress nachgefragt hat. Am 23. September sprachen dann Altman und per Video zugeschaltet Amodei erstmals vor dem UN-Sicherheitsrat. Amodei nannte KI bei schlechter Steuerung ein Risiko für die gesamte Menschheit und forderte gemeinsame Standards, Inspektoren und mehr Transparenz. Altman zog die Parallele zum Atomzeitalter. Diese Technologie dürfe nicht in den Händen weniger privater Akteure bleiben. Die Gegenseite kam prompt aus Washington. Donald Trump nannte internationale KI-Kontrolle ein globalistisches Konstrukt und die Untergangsangst zuvor einen Schwindel. Die Technologie will er übrigens zukünftig Superintelligenz nennen, weil er sagt, künstlich klinge für ihn nach Fake. Die Einordnung an dieser Stelle? Kritiker fragen, ob es den Konzernen wirklich nur um Sicherheit geht. Denn wer Regeln mitschreibt, sichert sich natürlich auch Wettbewerbsvorteile. Fest steht, global gibt es keine Einigung und in Europa gilt weiterhin der EU-AI-Act, unabhängig davon, was die UN entscheidet. Und jetzt ein Thema, das jeden betrifft, der ChatGPT nutzt. Seit dem 24. August läuft in Deutschland Werbung in ChatGPT. Für Sam Altman war das lange nur der letzte Ausweg zur Finanzierung. Jetzt ist daraus allerdings einer der schnellsten Werbe-Rollouts der Branche geworden. OpenAI hat die Anzeigen an diesem Tag in 31 europäischen Märkten ausgerollt und in den USA laufen sie bereits seit Februar. Anzeigen sehen Nutzer der Gratis-Version und des günstigen Go-Tarifs für rund 8 Euro im Monat. Plus-Abonnenten und höhere Tarife bleiben aktuell verschont. So soll es funktionieren. Die Anzeige erscheint als gekennzeichnete Box unter der Antwort. Mit Titel, kurzer Beschreibung und Link. OpenAI sagt, die Anzeigen beeinflussen die Antworten nicht. Und Werbetreibende sehen wiederum auch keine Unterhaltung oder private Information.

00:04:18: Eva Lindenberg - New Work Life Podcast Host Bei sensiblen Themen wie Gesundheit, Politik oder auch bei Minderjährigen gibt es keine Werbung. Zunächst wird kontextbezogen ausgespielt, also passend zum Thema deiner Frage. Personalisierte Anzeigen sind für den europäischen Raum erst später vorgesehen. Laut einer Auswertung von SE Ranking taucht aktuell etwa bei jedem vierten kommerziellen Prompt bereits eine Anzeige auf. Was heißt das jetzt für dich? Als Nutzerin oder Nutzer des Free- oder Go-Tarifs gilt, wer nach Produkten, Anbietern oder Vergleichen fragt, bekommt künftig bezahlte Vorschläge direkt neben der Antwort. Und als Unternehmerin oder Unternehmer heißt es natürlich, es ist ein neuer Kanal vorhanden, der in einem ganz interessanten Moment andockt, nämlich genau in dem Moment, in dem jemand seine Entscheidung vorbereitet. Das heißt also, für zukünftige Marketing-Entscheidungen kann es durchaus spannend werden. Bevor du aber Budget verschiebst, würde ich dir empfehlen, erst mal ganz klein zu testen, denn der Zugang für Werbekunden wird gerade noch schrittweise ausgebaut. Für die Zukunft ist es aber definitiv ein sehr, sehr spannender Kanal, den es zu berücksichtigen gilt im Marketing-Mix. Und dann noch das, was ebenfalls leise im Hintergrund passiert. Salesforce hat auf der Dreamforce mit Headless 360 gezeigt, wie man seine Software bereits ohne klassische Oberfläche nutzen kann. OpenAI hat mit GPT Live 1 ein Sprachmodell für Entwickler vorgestellt, das mit dir spricht, während im Hintergrund der Agent weiterarbeitet. Und in Baden-Württemberg sind bereits die ersten Unterrichtsassistenten im Einsatz, die die Lehrkräfte bei der Planung ihrer Unterrichtseinheiten unterstützen. Auch der Haushalt wird übrigens zunehmend zum realen Einsatzort, denn das Startup Tau Robotics aus San Francisco vermietet inzwischen humanoide Roboter zum Putzen. Und zwar für 30 Dollar die Stunde. Sie saugen, wischen und entsorgen den Müll. Der Haken, ganz autonom sind sie ehrlicherweise noch nicht, denn ein Mensch steuert sie aus der Ferne. Und die Putzsitzungen, die werden laut Berichten aufgezeichnet, um die KI-Modelle zu trainieren und standardmäßig unbegrenzt zu speichern. Das Ziel des Anbieters, menschliche Leistungen erst nachahmen, um sie dann zu übertreffen. Das wirft natürlich auch ganz neue Datenschutzfragen auf, wenn so ein Roboter durch deine Wohnung läuft. Buchen kannst du ihn bisher übrigens nur auf Einladung. Wenn du jetzt aus den letzten zehn Minuten eine Sache mitnimmst, dann diese. Die Risikodebatte ist erwachsen geworden. Weniger Terminator-Fantasie, dafür mehr Missbrauch, Kontrolle und die Frage, wer die Regeln macht. Und im Kleinen entscheidet sich vieles an derselben Frage. Wer behält am Ende den Überblick? Über die Agenten im Unternehmen, genauso wie darüber, was in einer Antwort Information ist und was Anzeige. Wenn du jetzt noch mehr Überblick bekommen möchtest, dann darf ich dich an dieser Stelle ganz herzlich zu einem besonderen Event-Format einladen. Am 29. und 30. Oktober veranstalten wir in Volkach die AI Leader Days. Zwei Tage für alle, die beim Thema KI nicht abgehängt werden wollen. Alle Informationen findest du online unter leaderdays.de. Und wenn dir diese Folge jetzt etwas gebracht hat, dann teil sie doch gerne mit einem Menschen, der gerade auch versucht, hier den Überblick zu behalten. In zwei Wochen hören wir uns wieder.

00:07:41: Eva Lindenberg - New Work Life Podcast Host Bis dahin, bleib neugierig und vor allem bleib Mensch. Das war der New Work Life Podcast. Dein Format mit den wichtigsten KI-Trends für dein Unternehmen. Du möchtest beim nächsten Mal live dabei sein? Schau in die Show Notes.