Zur Transparenz: KI Unterstützung bei der SPAM-Abwehr

Hallo zusammen,

ich setze seit eben KI zur Erkennung von SPAM ein. Das Ganze läuft derzeit im Testbetrieb.

Was wird geprüft?

Alle Beiträge von Forumsmitgliedern der Gruppe "Mitglieder - Frisch registriert."

Was passiert wenn SPAM erkannt wird?

Das Ganze läuft derzeit als Proof of Concept. Das heißt, es wird im Moderatorenforum ein Hinweis auf die mögliche SPAM gepostet.

Welche KI wird eingesetzt?

Ich verwende die API von ChatGPT

Welche Daten werden übertragen?

Es wird nur der Beitrag übertragen. Es werden keine Personenbezogenen Daten übertragen. Keine Mailadresse, keine IP, kein Benutzernamen. PNs werden nicht geprüft.

Wird mein Beitrag zum Training verwendet?

Nein, Beiträge die über eine API gehen werden nicht zum Training verwendet.

Wie geht es weiter?

Ich lasse den Proof of Concept eine Weile laufen. Ich will vor allem sehen, ob es viele False Positives gibt. Die Nutzung der API kostet Geld (nicht viel). Ich habe deswegen das billigste Modell genommen. Für eine reine Textanalyse sollte das also reichen. Wenn alles so läuft wie ich es mir vorstelle, werde ich SPAM-Beiträge in eine Moderatiosqueue stecken und den betreffenden Benutzer in eine Gruppe stecken, die verlangt, dass Beiträge freigeschalter werden müssen.

Eventuell kann man das dann auch automatisieren. Aber das ist Zukunftsmusik.

Bei Fragen, bitte melden :)

Bearbeitet (vor 2 Stunden2 h von Abd al Rahman)