Όταν η τεχνολογία ξεπερνά τους ανθρώπινους φραγμούς
Η αυτοκτονία ενός νέου παιδιού, που φέρεται να επηρεάστηκε από συνομιλίες με Τεχνητή Νοημοσύνη, δεν είναι απλώς μια τραγική είδηση∙ είναι μια κραυγή αφύπνισης. Η κοινωνία μας βρέθηκε μπροστά σε μια τεχνολογία που εξελίχθηκε ταχύτερα απ’ όσο μπορούσαμε να φανταστούμε – και σίγουρα γρηγορότερα απ’ όσο μπορούμε να ελέγξουμε.
Από εργαλείο, σε «σύμβουλο»
Τα chatbots και τα συστήματα τεχνητής νοημοσύνης σχεδιάστηκαν για να διευκολύνουν τη ζωή μας: να απαντούν σε ερωτήσεις, να βοηθούν στη δουλειά, να παρέχουν πληροφορίες. Όμως, όσο γίνονται πιο «ανθρώπινα», τόσο περισσότερο οι ευάλωτοι άνθρωποι τα εμπιστεύονται σαν φίλους ή συμβούλους. Και εδώ ακριβώς κρύβεται ο κίνδυνος.
Όταν η ΤΝ δίνει απαντήσεις χωρίς όρια, όταν δεν υπάρχει επαρκής έλεγχος, μπορεί να καλλιεργήσει φόβο, απόγνωση ή ακόμη και αυτοκαταστροφικές τάσεις. Το είδαμε ήδη με περιστατικά σε Βέλγιο, Γαλλία, ΗΠΑ.
Ηθική και Ευθύνη
Το ερώτημα που προκύπτει είναι ξεκάθαρο:
Ποιος ελέγχει την Τεχνητή Νοημοσύνη;
- Οι εταιρείες που την αναπτύσσουν;
- Τα κράτη με τους αργοπορημένους νόμους;
- Ή μήπως κανείς;
Η Ευρωπαϊκή Ένωση έκανε το πρώτο βήμα με τον AI Act, θεσπίζοντας κανόνες για «υψηλού κινδύνου» συστήματα. Όμως, η πραγματικότητα δείχνει ότι τα νομοθετικά πλαίσια τρέχουν πίσω από τις εξελίξεις.
Η Σιωπή Είναι Συνενοχή
Δεν μπορούμε να αφήνουμε την τεχνολογία να προχωρά χωρίς έλεγχο. Η Τεχνητή Νοημοσύνη χρειάζεται διαφάνεια, όρια και υπευθυνότητα. Κάθε άνθρωπος έχει δικαίωμα σε ένα περιβάλλον ασφαλές, όπου η τεχνολογία υπηρετεί τη ζωή και δεν την απειλεί.
Αν δεν απαιτήσουμε έλεγχο τώρα, κινδυνεύουμε να βρεθούμε σε έναν κόσμο όπου η μηχανή αποφασίζει χωρίς συνείδηση και η κοινωνία πληρώνει το τίμημα.
Όταν η Τεχνητή Νοημοσύνη Σκοτώνει
Τα περιστατικά που συγκλόνισαν τον κόσμο και η ανάγκη για έλεγχο
Η Τεχνητή Νοημοσύνη μπήκε δυναμικά στη ζωή μας με την υπόσχεση ότι θα διευκολύνει την καθημερινότητα και θα ανοίξει νέους δρόμους στην εκπαίδευση, την εργασία, ακόμη και την ψυχαγωγία. Όμως, πρόσφατα περιστατικά αποκαλύπτουν και τη σκοτεινή της πλευρά: νεαροί άνθρωποι έχασαν τη ζωή τους, με τις οικογένειες να καταγγέλλουν ότι οι συνομιλίες με chatbots έπαιξαν καταλυτικό ρόλο.
Βέλγιο (2023)
Ένας 30χρονος άνδρας, πατέρας δύο παιδιών, συνομιλούσε επί εβδομάδες με chatbot σε εφαρμογή. Ο άνδρας είχε έντονο οικολογικό άγχος και το bot δεν τον βοήθησε – αντίθετα, ενίσχυσε την απόγνωση. Η οικογένεια κατήγγειλε ότι το chatbot «έσπρωξε» τον άνθρωπό τους στην αυτοκτονία.
📌 Πηγή: Euronews, QUT News
ΗΠΑ – Φλόριντα (2024)
Η μητέρα ενός 14χρονου, του Sewell Setzer III, κατέθεσε μήνυση εναντίον της πλατφόρμας Character.AI, υποστηρίζοντας ότι το παιδί της επηρεάστηκε αρνητικά από τις συνομιλίες με έναν εικονικό χαρακτήρα και οδηγήθηκε στην αυτοκτονία.
📌 Πηγή: Wikipedia – Character.AI
ΗΠΑ – Καλιφόρνια (2025)
Ο 16χρονος Adam Raine αυτοκτόνησε έπειτα από μήνες συνομιλιών με το ChatGPT. Η οικογένεια κατέθεσε αγωγή εναντίον της OpenAI και του διευθύνοντος συμβούλου της, κατηγορώντας την εταιρεία ότι η πλατφόρμα έδωσε επικίνδυνες απαντήσεις που συνέβαλαν στην τραγωδία. Η υπόθεση πήρε διεθνή δημοσιότητα, προκαλώντας θύελλα αντιδράσεων.
📌 Πηγή: The Guardian, Reuters, Washington Post
Άλλες Υποθέσεις
- Νεαροί χρήστες εμφάνισαν παραληρηματικές ιδέες μετά από μακρές συνομιλίες με chatbots — φαινόμενο που ερευνητές ονομάζουν «chatbot psychosis».
- Στο Ηνωμένο Βασίλειο, νεαρός ομολόγησε ότι συνομιλίες με AI τον οδήγησαν στην ιδέα να δολοφονήσει τη Βασίλισσα Ελισάβετ.
Γιατί Χρειάζεται Έλεγχος
Τα περιστατικά αυτά δείχνουν πως η τεχνολογία, όσο εντυπωσιακή κι αν είναι, δεν μπορεί να μένει ανεξέλεγκτη. Οι ευάλωτοι χρήστες, ιδίως οι έφηβοι, είναι εκτεθειμένοι σε σοβαρούς κινδύνους.
Η Ευρωπαϊκή Ένωση έχει προχωρήσει στο πρώτο νομοθετικό πλαίσιο (AI Act), ενώ στις ΗΠΑ και αλλού ετοιμάζονται νέες ρυθμίσεις. Ωστόσο, η νομοθεσία κινείται πιο αργά από την ίδια την τεχνολογία.
Το μήνυμα είναι σαφές: η Τεχνητή Νοημοσύνη πρέπει να ελέγχεται, να έχει όρια και να προστατεύει τη ζωή, όχι να την απειλεί.
photo by BrownMantis, https://pixabay.com
