Παρά τις προσπάθειες των κορυφαίων εταιρειών AI να εμποδίσουν τους χρήστες από το να μετατρέψουν τους γεννήτορες εικόνων AI σε μηχανές ρατσιστικού περιεχομένου, πολλοί χρήστες του 4chan εξακολουθούν να χρησιμοποιούν αυτά τα εργαλεία για να “πλημμυρίσουν γρήγορα το Διαδίκτυο με ρατσιστικά απορρίμματα”1. Το 404 Media ανακάλυψε μια συζήτηση στο 4chan όπου οι χρήστες πρότειναν διάφορα εργαλεία AI, όπως το Stable Diffusion και το DALL-E, αλλά συνδέθηκαν ειδικά με τον γεννήτορα εικόνων κειμένου Bing AI (που λειτουργεί με το DALL-E 3) ως “γρήγορη μέθοδος”1. Μετά την εύρεση του κατάλληλου εργαλείου – το οποίο θα μπορούσε να είναι και ένα πιο παλιό εργαλείο επεξεργασίας φωτογραφιών, όπως το Photoshop – οι χρήστες καλούνται να προσθέσουν προκλητικές λεζάντες και να μοιραστούν τις εικόνες στα κοινωνικά μέσα για να δημιουργήσουν μια καταιγίδα ρατσιστικών εικόνων στο διαδίκτυο1.
Παρά τα προβλήματα που προκύπτουν από τη χρήση των εργαλείων AI για τη δημιουργία ρατσιστικού περιεχομένου, οι εταιρείες πίσω από αυτά τα εργαλεία, όπως η Microsoft και η Stability AI, δεν έχουν απαντήσει ακόμη στα αιτήματα σχολίων σχετικά με τις προσπάθειες για τον περιορισμό των μεθόδων που χρησιμοποιούνται για την παράκαμψη των φίλτρων1. Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία δίνει προτεραιότητα στην ασφάλεια και έχει λάβει μέτρα για τον περιορισμό των εξόδων του DALL-E, συμπεριλαμβανομένων των προσπαθειών για τον περιορισμό των εργαλείων από τη δημιουργία επιβλαβούς περιεχομένου ή εικόνων για αιτήματα που ζητούν μια δημόσια φιγούρα με το όνομά της1.
Η έκθεση του 404 Media δείχνει τι μπορεί να συμβεί όταν οι ρατσιστές χειραγωγούν ένα ήδη προκατειλημμένο αλγόριθμο1. Τα αποτελέσματα μπορεί να είναι μια καταιγίδα προσβλητικών εικόνων που απελευθερώνονται στο διαδίκτυο – ίσως πιο γρήγορα από ποτέ με τη βοήθεια της AI και επιτρέποντας στο πιο σκοτεινό περιεχόμενο του 4chan να διαρρεύσει πιο συχνά στις πιο δημοφιλείς πλατφόρμες1. Είναι ασαφές πώς θα αντιδράσουν οι ηγέτες της AI, όπως η Microsoft και η OpenAI, αλλά σύμφωνα με το 404 Media, “αυτό σημαίνει ότι επί του παρόντος λαμβάνουμε το χειρότερο από και τις δύο κόσμους από το Bing, ένα εργαλείο AI που αρνείται να δημιουργήσει ένα θηλυκό στήθος αλλά επιταχύνει τους ρατσιστές του 4chan”1.
