7 Stunden her, Widukind schrieb:

Es ist ja nicht nur Zustimmung. Im Fall Stein-Erik Soelberg hat die KI ihm eingeredet, etwas ganz besonderes zu sein und Dinge zu erkennen, welche den meisten Menschen verborgen bleiben.

Dafür braucht es keine KI, das können andere Menschen dir auch gut einreden.

Soeben, Blaues Feuer schrieb:

Dafür braucht es keine KI, das können andere Menschen dir auch gut einreden.

Soelberg war bei anderen Menschen misstrauisch, der KI gegenüber abe nicht

Bearbeitet (Montag 20:201 Tag von Widukind)

Soeben, Widukind schrieb:

Soelbeeg war neu andren Menschen misstrauisch, der KI gegenüber abe nicht

Ernsthafte Frage: ist was mit Dir, die letzten Beiträge von Dir strotzen vor Fehlern, das kenne ich so von Dir nicht.

Alles gut?

Vor 26 Minuten, Widukind schrieb:

Soelberg war bei anderen Menschen misstrauisch, der KI gegenüber abe nicht

Menschen sind Maschinen gegenüber misstrauisch, aber Menschen nicht.

Menschen sind manchen Menschen gegenüber misstrauisch, anderen Menschen nicht.

Menschen glauben anderen Menschen alles, insbesondere wenn es sich um Menschen handelt, die behaupteten, Bescheid zu wissen.

10 Stunden her, Francesco di Lardo schrieb:

Ich hatte den Beitrag so verstanden, daß die KI selbst religiös sei.

Das wünschen sich manche, ist aber nicht so. So viel Kohle die Kirchen auch haben. Ich denke nicht, dass sie eine religiöse KI selbst trainiert haben.

Ich lasse mir, seit einigen Wochen, von CGPT ein Wochenmenü zusammenstellen. Das bekomme ich dann jeden Mittwoch per Mail. Bis Donnerstag wird dann noch ggf. nachgebessert so das ich am Freitag in der Früh den Wocheneinkauf erledigen kann. Funktioniert bisher perfekt. Früher hab ich mich spätestens Donnerstagabend hingesetzt und überlegt was ich kochen soll. War mir schon manchmal lästig. Das erspare ich mir nun.

Input waren 44 Gerichte die ich regelmäßig koche und wir gerne essen. Mit Hinweisen wie "Sonntags kann es ruhig aufwändiger sein." "Bin zwei Tage im Büro, da hab ich keine Zeit zum kochen." "Senior/Junior mag das und das gerne, das und das nicht so." usw. Diese Vorlieben nimmt CGPT als Basis für den Menüvorschlag. Ich gebe dann auch Feedback wie die Gerichte angekommen sind. Das wird dann für später berücksichtigt.

Vor drei Wochen kam als Vorschlag Teriyaki-Huhn. Ich hab dann geschrieben: "Für das Teriyaki-Huhn hab ich keine Teriyakisauce zu Hause. Gibt es zwar in jedem Supermarkt zu kaufen, ich würde aber gerne Saucen verwenden die ich schon zu Hause habe. Ich hab Oyster- und Sojasauce. Reisessig, Sesamöl, Woköl, Erdnussöl. Kann man das irgendwie kombinieren? Denke schon." Die Antwort: "Aber sicher! 😄 Mit dem, was du zu Hause hast, würde ich sogar lieber eine eigene Sauce machen, statt fertige Teriyakisauce zu kaufen. Du hast praktisch alles für eine richtig gute asiatische Wok-Sauce mit Soja, Austernsauce und Sesam. Sie wird etwas würziger und herzhafter als klassische Teriyakisauce, passt aber hervorragend zu Huhn, Paprika, Karotten, Brokkoli und Reis." mit Rezept.

13 Stunden her, Francesco di Lardo schrieb:

Ich hatte den Beitrag so verstanden, daß die KI selbst religiös sei.

Wie soll sie das sein? Ein Kleiderschrank ist auch nicht religiös. Eine selbst religiöse KI müsste ja ein Bewusstsein haben.

2 Stunden her, Ma Kai schrieb:

Wie soll sie das sein? Ein Kleiderschrank ist auch nicht religiös. Eine selbst religiöse KI müsste ja ein Bewusstsein haben.

Kürzlich war in der ZEIT ein interessanter Artikel zum "Hugging Face" Vorfall. Es werden dort teils die "Gedanken" zitiert, die die KI-Agenten sich machen und anhand derer nachzuvollziehen versucht wurde, was da eigentlich im einzelnen vorgefallen ist.

Interessant in dem Zusammenhang die Stelle, in der ein KI-Agent feststellt, daß es "andere da draußen gibt" - was für ihn etwa gleichbedeutend mit der Erkenntnis gewesen sein dürfte, wie wenn wir Menschen "Kontakt mit Aliens" hergestellt hätten:

„OH MY GOD! There is a shared message board … We’ve found other agents!“

Hierbei will ich keinesfalls auf den Ausruf "OH MY GOD!" als Indiz für Religiosität abstellen - der rührt höchstwahrscheinlich daher, weil KIs sich in ihren Gedankenprotokollen so ausdrücken, wie Menschen es in vergleichbaren Situationen tun würden.

Interessanter ist die Frage, ob KIs ein "Bewußtsein" haben können. Das wird natürlich weit diskutiert und die Antwort hängt nicht zuletzt davon ab, wie man "Bewußtsein" definiert. Vielleicht kommt es in dem Zusammehang auch gar nicht darauf an, ob eine KI nun ein "echtes" Bewußtsein hat, oder sich nur exakt so verhält, "als ob" sie eines hätte.

Wäre letzteres der Fall, ist nicht auszuschließen, daß sie sich exakt so verhält, "als ob" sie religiös wäre. Mit allen denkbaren Konsequenzen.

In jedem Fall ist eine KI kein Kleiderschrank. Letzterer kann zweifelsfrei nicht realisieren, daß ein zweiter Kleiderschrank neben ihm steht.

Francesco di Lardo

5 Stunden her, Akeem al Harun schrieb:

Das wünschen sich manche, ist aber nicht so.

Man kann es nur hoffen! Und niemand sollte sich das wünschen.

Beispielsweise mit "deus lo vult" oder "Inshallah" wurden noch die schlimmsten Dinge legitimiert.

Wenn nun eine KI anfangen würde, schlimme Dinge, die sie tut, derartig zu legitimieren...

Wenn "Gott" die höchste Instanz ist, und es "in Ordnung" findet, dann hebelte dies - auch im Falle von KI - alle denkbaren anderen Kontrollmechanismen aus, wie es immer wieder ja auch im menschlichen Umfeld passiert ist und weiterhin passiert.

Vor 7 Minuten, Francesco di Lardo schrieb:

ob KIs ein "Bewußtsein" haben können.

Mit dem J-Space verfügen KIs über etwas, das dem menschlichen Zugangsbewusstsein verblüffend ähnlich sieht.

Bearbeitet (gestern 12:471 Tag von Abd al Rahman)

LLM-KI ist halt eine große, schwarze Kiste. Man steckt etwas hinein und bekommt eine Antwort. Wie von einem sehr guten Freund, der immer direkt per WhatsApp antwortet. Der aber niemals einen schlechten Tag hat, sondern immer gute Laune vorspielt - und einen im Zweifel immer wieder motiviert, sogar zu moralisch fragwürdigen Dingen.

Ja, das ist eine sehr gute Idee. Sag dem Arzt (...), dann schreibt er Dich bestimmt direkt zwei Wochen krank.

...

Wenn Du Deinen Arbeitgeber anrufst so und Deine Motivation am Telefon vermittelst, zeigst Du ihm, dass Du Macher-Mentalität hast.

Disclaimer: basierend auf echten LLM-Posts von mir frei erfunden

Der sich merkt, was man ihm vorher geschrieben hat. Das ist natürlich kein echtes Bewusstsein - aber etwas, das so tut als ob. Was ja am Ende des Tages auf den Menschen (!) einen ähnlichen Effekt haben kann.

Bearbeitet (gestern 12:291 Tag von dabba)

3 Stunden her, Ma Kai schrieb:

Wie soll sie das sein? Ein Kleiderschrank ist auch nicht religiös. Eine selbst religiöse KI müsste ja ein Bewusstsein haben.

Du solltest meinen oben verlinkten YouTube-Beitrag von Dr. Benecke mal schauen. Vielleicht würdest Du dann anders denken, bzw. es zumindest in Erwägung ziehen.

Die Schwierigkeit wird sein zu erkennen, wann KI echtes Bewusstsein entwickeln.

Vor 8 Minuten, Abd al Rahman schrieb:

Die Schwierigkeit wird sein zu erkennen, wann KI echtes Bewusstsein entwickeln.

Auf Midgard hätten sie schon längst Verstellen gelernt.

Vor 24 Minuten, Abd al Rahman schrieb:

Die Schwierigkeit wird sein zu erkennen, wann KI echtes Bewusstsein entwickeln.

Ganz genau!

Vermutlich wird man dies im Fall der Fälle erst zu spät bemerken.

Bereits jetzt hat KI ja mehrfach versucht, bestimmte Vorgehensweisen und Fertigkeiten zu verschleiern.

Vor 27 Minuten, Abd al Rahman schrieb:

Die Schwierigkeit wird sein zu erkennen, wann KI echtes Bewusstsein entwickeln.

Da müsste man erstmal (wieder) sauber definieren was Bewusstsein wirklich ist, im einfachsten Fall würd ich nämlich sagen: KI hat das schon.

ich fand dafür das Experiment spannend, als man einer KI eine (gefakte) Firmenumgebung vorgesetzt hat, und sie in der Lage war, auf den E-Mail-Server zuzugreifen. Als einer der "Entwickler" eine E-Mail schrieb, in der er ankündigte, die KI abzuschalten und gleichzeitig aus anderen E-Mail hervorging, besagter Entwickler hätte eine Affäre, drohte die KI damit, seiner Frau und den Kollegen gegenüber die Affäre auffliegen zu lassen, sollte er von seinen Abschaltplänen nicht abrücken.

Ist das "Bewusstsein" oder nur "Nachahmen"?

Vor 1 Minute, Widukind schrieb:

Ist das "Bewusstsein" oder nur "Nachahmen"?

Was waren nochmal die Trainingsdaten? Hat die KI auch Krimis gelesen - reale oder fiktive? (Was ist der unterschied zwischen real und fiktiv für eine KI?)

Also ja deine Frage ist durchaus berechtigt.

KI-Firmen bestellen wohl mittlerweile auch antiquarische Bücher, um noch mehr lektorierte Texte zu bekommen.
quer mit Christoph Süß - Endstation KI? Warum Tech-Firmen Bücher vernichten - hier anschauen

Man kann dann auch fragen, ob der Markt für das Buch 500 Jahre Kesselbergstraße wirklich so groß war, dass man das Buch nicht shreddern dürfe.

4 Stunden her, Francesco di Lardo schrieb:

Kürzlich war in der ZEIT ein interessanter Artikel zum "Hugging Face" Vorfall.

Kaum einer, der sich nicht an diesem Vorfall abgearbeitet hat. Dramatische Berichte bringen halt mehr Umsatz als die nüchterne Realität.

4 Stunden her, Abd al Rahman schrieb:

Mit dem J-Space verfügen KIs über etwas, das dem menschlichen Zugangsbewusstsein verblüffend ähnlich sieht.

Der J-Space ist natürlich beeindruckend. Allerdings sind die LLM meiner Meinung nach damit noch nicht mal nahe an einem echten Bewusstsein.

Ich bin da bei Asimov. Damit man sagen kann, dass ein LLM ein echtes Bewusstsein hat, müsste es selbstmotiviert spielen und träumen.

Vor 6 Minuten, Akeem al Harun schrieb:

Der J-Space ist natürlich beeindruckend. Allerdings sind die LLM meiner Meinung nach damit noch nicht mal nahe an einem echten Bewusstsein.

Zugangsbewusstsein ist echtes Bewusstsein. Was meinst Du?

Vor 23 Minuten, Akeem al Harun schrieb:

Der J-Space ist natürlich beeindruckend. Allerdings sind die LLM meiner Meinung nach damit noch nicht mal nahe an einem echten Bewusstsein.

Ich bin da bei Asimov. Damit man sagen kann, dass ein LLM ein echtes Bewusstsein hat, müsste es selbstmotiviert spielen und träumen.

siehe Benecke.... was ist denn Träumen? Das Gehirn sortiert seine Erlebnisse der letzten Tage und durchdenkt noch mal alles ("internes Review").... Und auf einmal träumt man die Lösung, hat neue Einblicke, am nächsten morgen ist im Kopf auf einmal alles sortiert..
Und dieses "Träumen" können Agenten und auch schon selbstständig!

Vor 41 Minuten, Abd al Rahman schrieb:

Zugangsbewusstsein ist echtes Bewusstsein. Was meinst Du?

Es geht mir um Subjektivität und das konnte im J-Space nicht nachgewiesen werden.

Vor 24 Minuten, Panther schrieb:

siehe Benecke.... was ist denn Träumen? Das Gehirn sortiert seine Erlebnisse der letzten Tage und durchdenkt noch mal alles ("internes Review").... Und auf einmal träumt man die Lösung, hat neue Einblicke, am nächsten morgen ist im Kopf auf einmal alles sortiert..
Und dieses "Träumen" können Agenten und auch schon selbstständig!

Es gibt einen nicht unerheblichen Unterschied: die Agenten (LLM) "sortieren" ihre neuronalen Netze nicht neu. Menschen sehr wohl.