Kazzirah

Ja. Das erschreckende hier war weniger die Befähigung des Agenten als wie offen da der Vollzugriff auf die wertvollsten Unternehmensdaten rumliegen. Das war schließlich keine 3-Personenstartupklitsche. Und das war so offen, dass der Agent nichts können musste. Das war Niveau Scriptkiddy nur schneller. So ein Ding kann quasi jeder ohne Vorkenntnisse bauen.

How we hacked McKinsey's AI Platform Autonomer AI Agent bekam innerhalb von 2h vollen Lese- und Schreibzugriff auf alle produktiven McKinseydaten.

Aktuell läuft auf Kickstarter das Funding für die 3. Edition von 7th Sea. 7th Sea 3rd Edition | Kickstarter Dahinter steht das französische Studio Agate, die schon ein paar spannende Sachen gemacht haben. System basiert auf Roll&Keep, ähnlich wie Legend of the 5 Ring.

Das Halluzinieren der großen LLMs wurde hier ja mehrfach angesprochen. Eine trainingsfreie Methode namens "Spilled Energy" aus der Sapienza Universität Rom nutzt Energiedifferenzen in der letzten Berechnungsschicht eines LLMs, um fehlerhafte Antworten zu erkennen.| Decoder Das verhindert das Halluzinieren nicht, denn das ist letztendlich Kern der Technologie. Formal halluzinieren die LLMs immer, nur sind sie meist hinreichend nahe an der Realität. Kein Modell arbeitet auf Grundlage von Wissen oder Fakten.

Vielleicht für einige interessant: Vortrag erschienen in der Reihe Hörsaal von Deutschlandfunk Nova: Künstliche Intelligenz - Wenn wir Maschinen wie Menschen behandeln

Woran erkennt eine KI, ob es sich um eine Sachfrage handelt? Woran erkennt die KI, dass eine Antwort 'richtig' ist? Wenn du 100 Leute zu einem Sachthema fragst, kriegst du dann 100x die gleiche korrekte Antwort? Sprachmodelle sind grundsätzlich diesen 100 Leuten ähnlich. Für exakte Ergebnisse gibt es andere nicht statistisch arbeitende KI-Modelle, die dafür aber eben nicht so umfassend antworten können. Die sind aber nicht Teil des Hypes.

Das Woodie Guthrie Cover von Tommy Krappweis - All You Fascists Bound to Lose

Dann hab ich die News falsch verstanden. Bzw falsch ausgedrückt.

@Ma Kai @Jürgen Buschmeier Ihr kommt etwas vom Thema ab. Wenn ihr das diskutieren müsst, bitte an geeigneter Stelle tun. Danke. @Broendil Ich hatte Tills Newsbeitrag so verstanden, dass der Stand eingefroren wird und offline genutzt (werden) können. Die Onlineversion wird wohl nur noch eine Zeitlang gehostet. Und die Assets werden auch zur Verfügung gestellt.

Ja, definitiv. Als Kunde sollte man sich das immer gut überlegen. Vorbestellungen sind am Ende ebenso riskant wie Crowdfundings. Man sollte sich da immer bewusst sein, dass es zu einem Totalverlust kommen kann. Und nur, wenn man den verkraften kann, sollte man das Risiko eingehen.

Ist in der Softwarebranche gerade bei Spielen aber zur Finanzierung der Produktentwicklung recht üblich.

@Ma Kai Und wie auch schon mehrfach gesagt: das ist systemimanent. Wobei ich nur weiter schwer tue mit Zuweisungen wie 'frech' und 'unverfroren'. Das vermenschlicht sie weit mehr als sie es ist. Selbst sehr gute Modelle halluzinieren in 30% der Fälle. Halluzinieren ist das, was du als 'Müll erzählen' fasst. Für sie ist das aber auch kein semantischer Unterschied.

Das wäre aber sehr pessimistisch. Die Umrechnung ist: 1 Badewanne entspricht 6 Saarländern.

War auch mein Gedanke. M7 wird es geben, nachdem M6 über mehrere Jahre erfolgreich die Szene begeistert hat. Vielleicht auch den ein oder anderen Ennie oder Goldenen Stephan gewonnen hat, so dass eine überarbeitete Neuauflage vielversprechend ist.

Es gibt schon eindeutige Hinweise in diesem Fall, aber dazu müsste man sich mit der Lizenzpolitik von Wizards auskennen: 3rd-Partyprodukte zu DnD dürfen ausschließlich mit dem Logo 5e erscheinen, die Begriffen DnD Dungeons & Dragons sind verboten. Keine Ausnahme. Anderer Slop ist da eventuell aufmerksamer. Aber, das ändert nichts daran, dass man sehr leicht auf solche Betrügereien reinfallen kann. Sie zielen darauf ab, uns in Situationen zu erwischen, wo wir nicht aufmerksam genug prüfen. Außerdem wirkt massive Werbung psychologisch stark von Legitimität überzeugend. Ein falscher Moment und es hat einen erwischt. Und ja, so was kann jeden erwischen.

Dann freu dich auf den GRT, da könnte es etwas geben, das das besser umsetzt. Und das kostenlos!

Wir kennen mehrere Leute, denen das passiert ist. Das ist auch nicht das einzige Produkt von denen, nur das am aggressivsten in sozialen Medien beworbene. Es ist halt eine rumänische Version des nigerianischen Prinzen.

Ja, es ist schlicht betrügersischer AI-Slop.

Ja, der DA ist ein wirklich nützliches Tool.

Btw: Aktueller Benchmarkstand laut Decoder: Modelle werden besser, Halluzinieren aber immer noch zu oft. Einschließlich Claude, das bei der Topquote von nur 30% Hallzinationen kommt. Neuer Benchmark zeigt: KI-Modelle halluzinieren immer noch viel zu oft | Decoder

Das definitiv. Da sind wir zumindest einig. (Vermutlich auch beim Rest gar nicht so verschieden, nur halt andere Zielbilder vor Augen haben).

Nein, das hat nichts miteinander zu tun.

Die Hochglanzpräsentationen versprechen genau das. Dagegen spricht, dass LLMs statistische Modelle sind. Die können also sehr gut Wahrscheinlichkeiten berechnen, sehr schlecht darin, konsistent über einen längeren Zeitraum zu bleiben.

Es bleibt weiter wichtig zu Unterscheiden, von welcher AI wir reden. AI als solche ist heute schon normaler Alltag und sind ziemliche working horses, halt nicht die skalierten GenAI und LLMs, die aktuell durchs Dorf getrieben werden. Da ist aktuell immer noch mehr Versprechen als gehalten werden kann. Ja, da passiert immer noch viel, aber die Grenzen dieser Technologie (also der GenAI), bleiben unverändert da, wo es um eine 'Theory of Mind' geht, steigen sie aus, das ist jenseits ihrer technologischen Fähigkeit. Andere AI kann das besser. Ich bin aber dabei, dass es irgendwann AI-Modelle geben wird, die das zusammenbringen werden, aber das wird eine andere Technologie als LLMs sein. Gut möglich, dass sie darauf aufsetzen.

In Chat waren ein paar, die da tiefer technisch drin waren. Aber ja, hätte ich mir auch gewünscht. So lag die Rolle letztlich bei Jan Wagner, wobei der eher IT-Manager ist.