Kazzirah

Nicht nur für diejenigen, die Chatbots als Ratgeber nutzen: Chatbots als Ratgeber: Ziemlich schlechteste Freunde | DeutscheWelle Dass Chatbots aktiv Psychosen bei anfälligen Personen auslösen können, ist länger bekannt. Aber ihre Tendenz zur "Speichelleckerei" hat generell negative Auswirkungen auf alle Nutzer. Der Bot dient by Design nicht als neutraler Ratgeber sondern als "Verbündeter, komme, was wolle". Sie bestärken einen auch, kriminelle oder Selbstverletzende Handlungen auszuführen, Ja, sie können sogar einen Sinneswandel in diese Richtung herbeiführen. Dabei ist unerheblich, ob der Tonfall neutral oder schmeichlerisch ist, sondern allein der Inhalt. War der schmeichlerisch, konnte die KI bei den Nutzern starke Sinneswandel herbeiführen, solange dabei das individuelle Gefühl gestärkt wurde, recht zu haben. Beispiel: Für KI-Programmierer ist das eigentlich sinnvolle Antwortverhalten, auch unangenehme, aber ehrliche Antworten zu geben, nicht attraktiv, weil es gegen das gewünschte Nutzerverhalten, die KI oft und möglichst exklusiv zu nutzen entgegen steht. Menschen fühlen sich grundsätzlich gerne bestätigt und nutzen daher eher Bots, die ihnen genau diese Bestätigung per default liefern. Menschen brauchen aber Reibung und ehrliche Antworten, statt Speichelleckerei und Besänftigung, um in der Realität verhaftet zu bleiben.

Ja. Das erschreckende hier war weniger die Befähigung des Agenten als wie offen da der Vollzugriff auf die wertvollsten Unternehmensdaten rumliegen. Das war schließlich keine 3-Personenstartupklitsche. Und das war so offen, dass der Agent nichts können musste. Das war Niveau Scriptkiddy nur schneller. So ein Ding kann quasi jeder ohne Vorkenntnisse bauen.

How we hacked McKinsey's AI Platform Autonomer AI Agent bekam innerhalb von 2h vollen Lese- und Schreibzugriff auf alle produktiven McKinseydaten.

Aktuell läuft auf Kickstarter das Funding für die 3. Edition von 7th Sea. 7th Sea 3rd Edition | Kickstarter Dahinter steht das französische Studio Agate, die schon ein paar spannende Sachen gemacht haben. System basiert auf Roll&Keep, ähnlich wie Legend of the 5 Ring.

Das Halluzinieren der großen LLMs wurde hier ja mehrfach angesprochen. Eine trainingsfreie Methode namens "Spilled Energy" aus der Sapienza Universität Rom nutzt Energiedifferenzen in der letzten Berechnungsschicht eines LLMs, um fehlerhafte Antworten zu erkennen.| Decoder Das verhindert das Halluzinieren nicht, denn das ist letztendlich Kern der Technologie. Formal halluzinieren die LLMs immer, nur sind sie meist hinreichend nahe an der Realität. Kein Modell arbeitet auf Grundlage von Wissen oder Fakten.

Vielleicht für einige interessant: Vortrag erschienen in der Reihe Hörsaal von Deutschlandfunk Nova: Künstliche Intelligenz - Wenn wir Maschinen wie Menschen behandeln

Woran erkennt eine KI, ob es sich um eine Sachfrage handelt? Woran erkennt die KI, dass eine Antwort 'richtig' ist? Wenn du 100 Leute zu einem Sachthema fragst, kriegst du dann 100x die gleiche korrekte Antwort? Sprachmodelle sind grundsätzlich diesen 100 Leuten ähnlich. Für exakte Ergebnisse gibt es andere nicht statistisch arbeitende KI-Modelle, die dafür aber eben nicht so umfassend antworten können. Die sind aber nicht Teil des Hypes.

Das Woodie Guthrie Cover von Tommy Krappweis - All You Fascists Bound to Lose

Dann hab ich die News falsch verstanden. Bzw falsch ausgedrückt.

@Ma Kai @Jürgen Buschmeier Ihr kommt etwas vom Thema ab. Wenn ihr das diskutieren müsst, bitte an geeigneter Stelle tun. Danke. @Broendil Ich hatte Tills Newsbeitrag so verstanden, dass der Stand eingefroren wird und offline genutzt (werden) können. Die Onlineversion wird wohl nur noch eine Zeitlang gehostet. Und die Assets werden auch zur Verfügung gestellt.

Ja, definitiv. Als Kunde sollte man sich das immer gut überlegen. Vorbestellungen sind am Ende ebenso riskant wie Crowdfundings. Man sollte sich da immer bewusst sein, dass es zu einem Totalverlust kommen kann. Und nur, wenn man den verkraften kann, sollte man das Risiko eingehen.

Ist in der Softwarebranche gerade bei Spielen aber zur Finanzierung der Produktentwicklung recht üblich.

@Ma Kai Und wie auch schon mehrfach gesagt: das ist systemimanent. Wobei ich nur weiter schwer tue mit Zuweisungen wie 'frech' und 'unverfroren'. Das vermenschlicht sie weit mehr als sie es ist. Selbst sehr gute Modelle halluzinieren in 30% der Fälle. Halluzinieren ist das, was du als 'Müll erzählen' fasst. Für sie ist das aber auch kein semantischer Unterschied.

Das wäre aber sehr pessimistisch. Die Umrechnung ist: 1 Badewanne entspricht 6 Saarländern.

War auch mein Gedanke. M7 wird es geben, nachdem M6 über mehrere Jahre erfolgreich die Szene begeistert hat. Vielleicht auch den ein oder anderen Ennie oder Goldenen Stephan gewonnen hat, so dass eine überarbeitete Neuauflage vielversprechend ist.