Wir alle sollten uns Sorgen darüber machen, dass KI die Teamarbeit unterwandert

neues Blatt Forscher der Schweizer Universität EPFL berichten, dass zwischen 33 % und 46 % der bei Amazon Mechanical Turk eingesetzten Mitarbeiter offenbar bei der Ausführung einer bestimmten ihnen zugewiesenen Aufgabe „geschummelt“ haben, da sie für einen Teil der Arbeit Tools wie ChatGPT verwendet haben. Wenn diese Praxis weit verbreitet wäre, könnte sie ein sehr ernstes Problem darstellen.

Amazons Mechanical Turk ist seit langem ein Zufluchtsort für frustrierte Entwickler, die ihre Arbeit von Menschen erledigen lassen wollen. Kurz gesagt handelt es sich um eine API, die Aufgaben an Menschen weiterleitet, die sie ausführen und dann die Ergebnisse zurückgeben. Dies sind normalerweise Aufgaben, bei denen man sich wünscht, dass Computer besser wären. Bei Amazon wäre ein Beispiel für eine solche Aufgabe: „Zeichnen Sie Begrenzungsrahmen, um hochwertige Datensätze für Computer-Vision-Modelle zu erstellen, wobei die Aufgabe möglicherweise zu vage für eine rein mechanische Lösung und zu umfangreich selbst für ein großes Team menschlicher Experten ist.“ .“

Datenwissenschaftler behandeln Datensätze je nach Herkunft unterschiedlich – ob sie von Menschen oder einem Language Large Model (LLM) generiert wurden. Allerdings ist das Problem bei Mechanical Turk hier schlimmer, als es scheint: KI ist mittlerweile so günstig verfügbar, dass Produktmanager, die sich für den Einsatz von Mechanical Turk gegenüber einer automatisierten Lösung entscheiden, darauf vertrauen, dass Menschen etwas besser können als Bots. Die Vergiftung dieser großen Datenmenge kann schwerwiegende Folgen haben.

„LLM von menschengeneriertem Text zu unterscheiden, ist sowohl für maschinelle Lernmodelle als auch für Menschen schwierig“, sagten die Forscher. Deshalb entwickelten die Forscher eine Methode, um herauszufinden, ob der textbasierte Inhalt von einem Menschen oder einer Maschine generiert wurde.

See also  Die wahren Superkräfte von Render können uns helfen, Depressionen und Krebs zu besiegen

Bei dem Test wurden Crowdsourcing-Mitarbeiter gebeten, Forschungszusammenfassungen aus dem New England Journal of Medicine in Zusammenfassungen mit jeweils 100 Wörtern zusammenzufassen. Es ist bemerkenswert, dass dies der Fall ist genau Die Art von Aufgabe, bei der KI-Generatortechnologien wie ChatGPT gut sind.

error: Content is protected !!