Το νέο εργαλείο της Google βασίζεται σε νευρωνικά δίκτυα (DNN) και θα διατίθεται δωρεάν σε μη κυβερνητικές οργανώσεις (ΜΚΟ) και σε άλλους «εταίρους της βιομηχανίας» συμπεριλαμβανομένων άλλων εταιρειών τεχνολογίας μέσω ενός νέου ασφαλούς API.

Πέρυσι προέκυψαν στοιχεία ότι η μητροπολιτική αστυνομία του Λονδίνου εργαζόταν σε μια λύση AI που θα διδάσκει μηχανές πώς να βαθμολογεί τη σοβαρότητα των ενοχλητικών εικόνων. Αυτό έχει σχεδιαστεί για την επίλυση δύο προβλημάτων: θα βοηθήσει στην επιτάχυνση του ρυθμού με τον οποίο αναγνωρίζεται το παράνομο και ενοχλητικό υλικό στο διαδίκτυο, αλλά θα ανακουφίσει και το ψυχολογικό τραύμα που υφίστανται οι αξιωματικοί ελέγχουν τις εικόνες.

Οι περισσότερες από τις μεγάλες εταιρείες τεχνολογίας αξιοποιούν τώρα την AI για την ανίχνευση κάθε είδους προσβλητικού υλικού. H επέκταση της τεχνολογίας αναγνώρισης εικόνων, ώστε να περιλαμβάνει και νέες φωτογραφίες, θα βοηθήσει στην Google να αποτρέψει σε μεγάλη κλίμακα μία από τις πιο απεχθές μορφές κακοποίησης που μπορεί να φανταστεί κανείς.

Μεταξύ των οργανισμών-εταίρων της Google κατά την έναρξη λειτουργίας της είναι το φιλανθρωπικό ίδρυμα του Internet Watch (IWF) με έδρα το Ηνωμένο Βασίλειο, το οποίο έχει ως αποστολή να ελαχιστοποιεί τη διαθεσιμότητα δυνητικά εγκληματικού περιεχομένου στο διαδίκτυο, συγκεκριμένα εικόνες σεξουαλικής κακοποίησης παιδιών.