Slopsquatting: Die neue Sicherheitsbedrohung durch KI-Halluzinationen Anzeige Halluzinierte Code-Bibliotheken in KI-generiertem Code könnten zu einem Sicherheitsrisiko werden. Der damit ermöglichte Angriff, das sogenannte Slopsquatting (geprägt vom Forscher Seth Larson), beschreibt eine Angriffsstrategie, bei der Hacker Schadcode unter Namen veröffentlichen, die KI-Systeme regelmäßig "halluzinieren". Etwa jeder fünfte von KI erzeugte Codeschnipsel enthält erfundene Bibliotheken. Selbst ChatGPT-4 erfindet in etwa fünf Prozent der Fälle nicht existierende Bibliotheken, bei Open-Source-Modellen liegt die Quote noch höher. Die Gefahr entsteht, wenn Entwickler solchen Code ungeprüft übernehmen und versuchen, die "fehlenden" Pakete zu installieren – eine Lücke, die Angreifer mit verstecktem Schadcode füllen können. Zum Schutz empfehlen Experten, KI-generierten Code stets kritisch zu prüfen, Paketnamen zu verifizieren und Hash-Prüfungen durchzuführen. Meta Platforms füttert die Daten europäischer Kunden seiner KI Meta verwendet öffentliche, personenbezogene Daten von EU-Nutzern zum Training seiner KI-Modelle. Verwendet werden öffentlich geteilte Beiträge, Bilder und Videos auf Instagram, Facebook und Threads – nicht jedoch private Nachrichten oder nur für Kontakte sichtbare Inhalte. Der Konzern beruft sich bei der Datennutzung auf das in der DSGVO verankerte "berechtigte Interesse", nachdem eine Einigung mit europäischen Datenschutzbehörden erzielt wurde. Nutzer werden per Pop-up über die Verwendung ihrer Daten informiert und können widersprechen. Allerdings können bereits verwendete Daten nicht mehr aus trainierten Modellen entfernt werden – der Widerspruch gilt nur für zukünftige Trainings. Irische Datenschützer untersuchen X wegen Grok-Training Anzeige Die irische Datenschutzbehörde DPC nimmt Elon Musks Plattform X ins Visier. Im Fokus steht die Frage, ob das Unternehmen personenbezogene Daten von EU-Bürgern ohne gültige Einwilligung für das Training seines KI-Systems Grok verwendet hat. Die Plattform X verpflichtete sich nach einem früheren Verfahren, diese Praxis einzustellen. Als federführende Aufsichtsbehörde für viele US-Techkonzerne mit Europa-Hauptsitz in Irland verfügt die DPC über erhebliche Sanktionsmöglichkeiten. Bei Verstößen gegen die DSGVO drohen Geldstrafen von bis zu vier Prozent des weltweiten Umsatzes. Empfohlener redaktioneller Inhalt Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen. Podcasts immer laden Podcast jetzt laden Quark überholt die Konkurrenz: Alibabas KI-App dominiert in China Alibaba hat mit seiner KI-App Quark die Spitzenposition im chinesischen Markt erobert. Mit rund 150 Millionen monatlich aktiven Nutzern weltweit überflügelt der Dienst die Konkurrenten Doubao von ByteDance und DeepSeek. Alibaba wandelte Quark, ursprünglich ein Cloud-Speicher- und Suchdienst, erst im letzten Monat in einen umfassenden KI-Assistenten um. Der chinesische KI-Markt bleibt hart umkämpft. ByteDance testet für Doubao bereits Videofunktionen, während Tencent seinen Dienst Yuanbao in die WeChat-Plattform integriert hat. Global betrachtet rangiert Quark laut einer Analyse von Andreessen Horowitz auf Platz sechs der beliebtesten KI-Anwendungen – mit deutlichem Abstand zu ChatGPT, das weiterhin international führt. Chaos um Apples Siri-KI Während Konkurrenten im KI-Wettlauf voranpreschen, hinkt Apple technisch hinterher. Neun Monate nach Gründung von Apple Intelligence ist Siri nicht wesentlich intelligenter geworden. Nach der Verschiebung neuer KI-Funktionen um bis zu ein Jahr werden nun interne Machtkämpfe bekannt. Demnach scheiterte Apple zunächst an der Beschaffung ausreichender GPUs für das KI-Training, auch weil Apples Finanzchef dagegen war. Inzwischen wurden drei Klagen gegen die Verschiebung der beworbenen Siri-KI-Funktionen eingereicht – zwei in Kalifornien und eine im kanadischen British Columbia. Der Vorwurf lautet unter anderem auf unfairen Wettbewerb, weil Apple Nutzer mit Werbung zum Kauf neuer iPhones verleitet habe, denen die versprochenen Funktionen dann fehlten. Im schlimmsten Fall drohen Apple Millionen an Strafzahlungen. Text2Robot: KI erstellt Roboter per Textbeschreibung Einen Roboter durch einfache Texteingabe zu entwickeln, verspricht das KI-Framework Text2Robot der Duke University. Das System soll innerhalb weniger Minuten aus einer kurzen Beschreibung ein fertigungsfähiges Roboter-Design erstellen, das anschließend in einer Simulation getestet wird. Algorithmen optimieren in Verbindung mit evolutionären Strategien die physische Form des Roboters und seine Steuerungssoftware, was zu effizienten Bewegungsabläufen führen soll. Ein funktionierender physischer Roboter kann so innerhalb eines Tages mithilfe eines 3D-Drucks fertiggestellt werden. Das Framework ist derzeit für vierbeinige Roboter optimiert, soll aber künftig auch andere Formen unterstützen. (mali)