Datenkennzeichnung
Eine Recherche des TIME-Magazins enthüllte, dass OpenAI für den Aufbau eines Schutzsystems gegen schädliche Inhalte (z. B. sexueller Missbrauch, Gewalt, Rassismus, Sexismus usw.) kenianische Leiharbeiter einsetzte, die weniger als 2 US-Dollar pro Stunde verdienten, um schädliche Inhalte zu kennzeichnen. Diese Kennzeichnungen dienten dazu, ein Modell zu trainieren, das solche Inhalte künftig erkennen sollte. Die Leiharbeiter waren solchen schädlichen und gefährlichen Inhalten ausgesetzt und beschrieben die Erfahrung als „Folter“. OpenAIs Outsourcing-Partner war Sama, ein in San Francisco, Kalifornien, ansässiges Unternehmen für Trainingsdaten.
Gefängnisausbruch
ChatGPT versucht, Anfragen abzulehnen, die gegen seine Inhaltsrichtlinien verstoßen könnten. Einige Nutzer schafften es jedoch Anfang Dezember 2022, ChatGPT mithilfe verschiedener Techniken zur Manipulation von Anfragen zu umgehen und diese Beschränkungen zu umgehen. Sie brachten ChatGPT erfolgreich dazu, Anleitungen zum Bau eines Molotowcocktails oder einer Atombombe zu geben oder Argumente im Stil von Neonazis zu generieren. Ein Reporter des Toronto Star hatte kurz nach dem Start unterschiedliche Erfolge damit, ChatGPT zu provokanten Aussagen zu bewegen: ChatGPT wurde dazu gebracht, den russischen Einmarsch in die Ukraine 2022 zu befürworten, weigerte sich aber selbst bei der Mitwirkung an einem fiktiven Szenario, Argumente dafür zu generieren, warum der kanadische Premierminister Justin Trudeau des Hochverrats schuldig sei. (wiki)
Veröffentlichungsdatum: 18. Februar 2023