• Hallo,

    gibt es schon Ideen für einen KI Bot, der die automatisierte Überwachung von Beiträgen übernimmt und bei Missachtung der Forenregeln entsprechend eingreift?

    Das würde einem viel Arbeit abnehmen bei einem hochfrequentierten Forum...

    Bereits seit dem 11. November 2001, 00:41 Mitglied im Forum!

  • Inwiefern ist mein Vorschlag vage formuliert? Ich habe es bewusst allgemein ausgedrückt, um ein Brainstorming anzuregen. ;)

    Bereits seit dem 11. November 2001, 00:41 Mitglied im Forum!

  • Etwas „allgemein“ zu formulieren, ist eine Sache. Du musst aber ja eine Vorstellung davon haben, was du dir erwartest. Derzeit lautet dein Vorschlag nur „eine KI nutzen“ und das kann alles oder nichts bedeuten. Von was für Regeln sprechen wir, die überwacht werden sollen? Wie soll das funktionieren? Wie sieht ein solcher Eingriff aus? Auch für ein Brainstorming muss man erst einmal verstehen, was genau du eigentlich möchtest.

  • Warum sollte er? Da Du das Thema angestoßen hast, wäre das wohl vorrangig Deine Aufgabe.


    Gruß norse

    Zugang zu meinen Arbeiten und dem dazugehörigen Support bekommt Ihr bei Interesse hier und hier.

  • ...die automatisierte Überwachung von Beiträgen übernimmt und bei Missachtung der Forenregeln entsprechend eingreift?

    Meine Meinung: Entweder administriert man als Betreiber ein Forum selbst, bzw. falls nötig durch zusätzliche Administratoren oder man betreibt eben kein Forum.

    Gruß Markus

    WoltLab Suite 5.5.20

  • Ich behaupte einfach Mal eine gut konfigurierte Zensur (bzw. Wort-Filter) Funktion, kann einem schon vor den schlimmsten bewahren.

    Ich rede mir zumindest ein, dass ein Eintragen von den einschlägigsten Schimpfwörtern das Forum schonmal vor den meisten Beleidigungen schützen kann.

    Bevor man nun aber davon ausgeht es wäre, als Weiterentwicklung dessen, möglich ein Plugin einzusetzen (bzw. Programmiert zu bekommen) das jeden Beitrag "quasi" einmal durch ChatGPT jagt, nur um dann festzustellen ob der Inhalt gegen die Forenregeln verstößt....klingt für mich nach einem Wunschtraum.

    Korrigiert mich wenn ich falsch liege....(soweit man überhaupt "falsch liegen" kann, bei Themen die man selbst nur ansatzweise versteht)...

    Aber überträgt man das hier gewünschte Verhalten auf geltende KI Ansätze, dann müsste man doch für jede einzelne Forenregel zunächst einmal entsprechende Trainingsdatensätze zur Verfügung stellen, oder nicht?

    Beispiel:

    Foren regeln: wir tolerieren keine Beleidigungen.

    Alleine für diese Regeln müsste eine Datenbank erstellt werden die quasi jedes Schimpfwort enthält das es jemals gab.

    Und selbst wenn man so eine Datenbank für diese eine Regel erstellen könnte, wäre man immer noch weit entfernt von Kontext & Co....

    Das ganze Thema klingt für mich mehr als nur unrealistisch...aber ich lasse mich gerne belehren...denn interessant ist es allemal....auch wenn ich niemals einer KI die Zügel in die Hand legen würde. Besonders wenn es darum geht auf Inhalte der User zu reagieren.

    Mfg

    "Cigarettes are like squirrels...

    They're perfectly harmless until you put one in your mouth and light it on fire"

  • Bevor man nun aber davon ausgeht es wäre, als Weiterentwicklung dessen, möglich ein Plugin einzusetzen (bzw. Programmiert zu bekommen) das jeden Beitrag "quasi" einmal durch ChatGPT jagt, nur um dann festzustellen ob der Inhalt gegen die Forenregeln verstößt....klingt für mich nach einem Wunschtraum.

    Die Verfügbarkeit und aktuellen API-Limits (sowie für große/aktive Foren die entstehenden Kosten) lassen dies vielleicht aktuell noch nicht zu, aber zukünftig steht dem absolut nichts im Weg. Spätestens wenn man in ein paar Jahren (leistungsfähige) Sprachmodelle selbst betreiben kann oder sich Cloud-Lösungen dafür besser (oder überhaupt) eignen ist sowas schnell umgesetzt.

    Das ganze Thema klingt für mich mehr als nur unrealistisch...aber ich lasse mich gerne belehren...denn interessant ist es allemal

    Um Ausnahmefälle auszuschließen/zu minimieren und Randbedingungen festzulegen (hier z.B. Definition von Werbung) würde eine Aufforderung zwar wesentlich umfangreicher ausfallen, aber im Prinzip sähe es am Ende nicht anders aus. Mit so einem Ergebnis ließe sich dann bspw. eine Inhaltsmeldung zur Vorsichtsmaßnahme rechtfertigen.

    Die Diskussion, ob so was sinnvoll ist oder nicht, lasse ich mal außen vor ^^

  • Bevor man nun aber davon ausgeht es wäre, als Weiterentwicklung dessen, möglich ein Plugin einzusetzen (bzw. Programmiert zu bekommen) das jeden Beitrag "quasi" einmal durch ChatGPT jagt, nur um dann festzustellen ob der Inhalt gegen die Forenregeln verstößt....klingt für mich nach einem Wunschtraum.

    Vor allem ist die Zeit dafür noch überhaupt nicht reif. ChatGPT mag auf einen ersten oberflächlichen Blick beeindrucken, bei genauerer Prüfung zeigt sich aber dann doch sehr schnell, wie katastrophal die Ergebnisse noch sind - auf eine gefährliche Weise dazu: Die Antworten sind so gut ausformuliert, dass alles glaubwürdig klingt. Inhaltlich sind so viele Antworten aber schlicht und ergreifend falsch. Teilweise so falsch, dass es mir ein Rätsel ist, was ChatGPT als Quelle hernimmt, weil man manches so garantiert nicht im Web findet und tatsächlich ausgedacht sein muss. Ich habe das vor wenigen Tagen erst getestet. Und wenn etwas aktuell dermaßen Gehyptes schon so schlecht abschneidet… Wenn wir hier von automatischen Eingriffen sprechen, braucht's eine ganz andere Qualitätsstufe. Ansonsten richtet man damit sehr viel mehr Schaden an als es Arbeit abnehmen kann.

    Aber mal losgelöst von ChatGPT und ganz allgemein für jede Form von KI gibt es ja auch technische Fragen. Du hast im weiteren Verlauf deines Beitrags ein paar sehr richtige Aspekte genannt. Selbst wenn das bereits gelöste Probleme wären (und das sind keine gelösten Probleme!), benötigt eine so intelligente KI ja auch Leistung und viel Platz für die Trainingsdaten. Ich vermute da Anforderungen, welche die meisten Kunden der WoltLab Suite wohl eher nicht erfüllen. Dann kommen dann mit Sicherheit auch noch zusätzliche Kosten, vor allem wenn man den Teil auslagert, weil man es selbst nicht leisten kann, und ein Bedarf an so etwas muss beim Betreiber ja auch überhaupt erst bestehen. Die Zielgruppe stelle ich mir extrem schmal vor, vor allem in Relation dazu, wie viel Aufwand hier investiert werden müsste, um auch nur etwas halbwegs Brauchbares auf die Beine zu stellen.

    Keine Ahnung, was die Zukunft bringen wird und was wir von einer Forensoftware in fünf oder zehn Jahren erwarten dürfen. Aber Stand heute sehe ich das nicht. Außer vielleicht für einen sehr spezialisierten Anwendungsfall, der nicht so allgemein gefasst ist wie der Startbeitrag des Themenerstellers. Ich wüsste jetzt aber auch nicht, was das für ein Anwendungsfall wäre, der realistisch ist und mir auch helfen würde. Und wenn nicht einmal vom Themenersteller selbst irgendeine Idee kommt, was man zumindest mal als eine erste automatisierte Maßnahme wenigstens diskutieren könnte, sind wir zeitlich vermutlich wirklich noch zum weit vom Thema weg als dass es realistisch wäre…

    2 Mal editiert, zuletzt von Cadeyrn (3. März 2023 um 12:46)

  • Meine Meinung: Entweder administriert man als Betreiber ein Forum selbst, bzw. falls nötig durch zusätzliche Administratoren oder man .....

    Ich sehe das so, dass ein KI-Bot die Arbeit des Betreibers bzw. des Administrators nicht abnehmen kann, sonst bräuchte man kein eigenes Forum zu betreiben. Aber ein KI-Bot würde die Arbeit der Foren-Admins meiner Meinung nach erleichtern. Oder wie seht ihr das?

    Mfg Skayritarai

    ------------------------

    Wer die Freiheit aufgibt, um Sicherheit zu gewinnen, wird am Ende beides verlieren.

    (Benjamin Franklin)

  • Ich sehe das so, dass ein KI-Bot die Arbeit des Betreibers bzw. des Administrators nicht abnehmen kann, sonst bräuchte man kein eigenes Forum zu betreiben. Aber ein KI-Bot würde die Arbeit der Foren-Admins meiner Meinung nach erleichtern. Oder wie seht ihr das?

    Für mich käme ein KI-Bot nie in Frage! :thumbdown:

    Eine Erleichterung kann ich nicht erkennen, denn schließlich müsste ich den KI-Bot ja auch kontrollieren. :thumbdown:

    Davon abgesehen wäre für mich der Sinn meines Forums in Frage gestellt, wenn ich einem Bot wichtige Antworten überlassen würde. =O

    Oder stell dir mal vor wenn anstelle der hier stets anwesenden kompetenten WoltLab Mitarbeitern ein Bot antworten würde. 8|

    Gruß Markus

    WoltLab Suite 5.5.20

    Einmal editiert, zuletzt von Webmark (12. März 2023 um 19:16)

  • Ich hätte jetzt gern die gelöschten Fragen und die darauf gegebenen Antworten gesehen. Im aktuellen Zustand ist das Thema nicht so aussagekräftig.


    Gruß norse

    Zugang zu meinen Arbeiten und dem dazugehörigen Support bekommt Ihr bei Interesse hier und hier.

  • Dabei handelt es sich um die gelöschten Beiträge aus einem anderen Forum, somit kann ich keinen Bezug zu diesem Forum herstellen.

    Gruß Markus

    WoltLab Suite 5.5.20

Jetzt mitmachen!

Sie haben noch kein Benutzerkonto auf unserer Seite? Registrieren Sie sich kostenlos und nehmen Sie an unserer Community teil!