Dialogue
Can society stay in control of systems it increasingly depends on?
FRONTIER THOUGHT · Meta-conference
Can we retain control as the systems we depend on become more intelligent?
Persistent meta & virtual dialogues
- 1
Can society stay in control of systems it increasingly depends on?
Inquiry from published sources
- 2
The day the system fails
Planned follow-up
- 3
The authority to intervene
Planned follow-up
Round 1 · Active source inquiry
Can society stay in control of systems it increasingly depends on?
Can we retain control as the systems we depend on become more intelligent?
What carries into the next round
Run a short tabletop incident with the service owner and frontline staff. Record the first unresolved dependency and put that into the next moderator brief.
If an AI system fails in a Greek hospital or municipality tomorrow, who can stop it and keep the essential service running?
Round 2 · Planned follow-up
The day the system fails
Who can restore the essential service, with which independent evidence?
What carries into the next round
Run a short tabletop incident with the service owner and frontline staff. Record the first unresolved dependency and put that into the next moderator brief.
Who can restore the essential service, with which independent evidence?
Round 3 · Planned follow-up
The authority to intervene
Which incident gives someone outside the supplier authority to stop deployment?
What carries into the next round
Run a short tabletop incident with the service owner and frontline staff. Record the first unresolved dependency and put that into the next moderator brief.
Which incident gives someone outside the supplier authority to stop deployment?
How we will investigate the questions
Round 1 · Can society stay in control of systems it increasingly depends on?
Published positions informing this round
- Demis Hassabis · Future of AI, Simulating Reality, Physics and Video Games, Lex Fridman Podcast #475
- Geoffrey Hinton · Geoffrey Hinton, Firing Line
- Yoshua Bengio · The catastrophic risks of AI — and a safer path
- Fei-Fei Li · Fei-Fei Li, Firing Line
- Michalis Bletsas · Interview on cyberattacks and national resilience
Questions and evidence to request
- Hospital operator or municipal service manager
Which essential task must continue during an AI or cloud outage, and who owns that decision?
Evidence to request: Continuity procedure, named duty role, manual fallback and last exercise record.
- Cybersecurity lead and system supplier
What signals trigger an investigation or shutdown, and who can see the record?
Evidence to request: Incident categories, audit access, containment procedure and measured detection and restoration times.
- Frontline worker and affected service user
How do you challenge a harmful decision when the system or supplier is unavailable?
Evidence to request: An actual escalation route, a response deadline and a completed resolution example with personal details removed.
Round 2 · The day the system fails
Published positions informing this round
- Demis Hassabis · Future of AI, Simulating Reality, Physics and Video Games, Lex Fridman Podcast #475
- Geoffrey Hinton · Geoffrey Hinton, Firing Line
- Yoshua Bengio · The catastrophic risks of AI — and a safer path
- Fei-Fei Li · Fei-Fei Li, Firing Line
- Michalis Bletsas · Interview on cyberattacks and national resilience
Questions and evidence to request
- Hospital operator or municipal service manager
Which essential task must continue during an AI or cloud outage, and who owns that decision?
Evidence to request: Continuity procedure, named duty role, manual fallback and last exercise record.
- Cybersecurity lead and system supplier
What signals trigger an investigation or shutdown, and who can see the record?
Evidence to request: Incident categories, audit access, containment procedure and measured detection and restoration times.
- Frontline worker and affected service user
How do you challenge a harmful decision when the system or supplier is unavailable?
Evidence to request: An actual escalation route, a response deadline and a completed resolution example with personal details removed.
Round 3 · The authority to intervene
Published positions informing this round
- Demis Hassabis · Future of AI, Simulating Reality, Physics and Video Games, Lex Fridman Podcast #475
- Geoffrey Hinton · Geoffrey Hinton, Firing Line
- Yoshua Bengio · The catastrophic risks of AI — and a safer path
- Fei-Fei Li · Fei-Fei Li, Firing Line
- Michalis Bletsas · Interview on cyberattacks and national resilience
Questions and evidence to request
- Hospital operator or municipal service manager
Which essential task must continue during an AI or cloud outage, and who owns that decision?
Evidence to request: Continuity procedure, named duty role, manual fallback and last exercise record.
- Cybersecurity lead and system supplier
What signals trigger an investigation or shutdown, and who can see the record?
Evidence to request: Incident categories, audit access, containment procedure and measured detection and restoration times.
- Frontline worker and affected service user
How do you challenge a harmful decision when the system or supplier is unavailable?
Evidence to request: An actual escalation route, a response deadline and a completed resolution example with personal details removed.
Published positions and original context
Demis Hassabis
Original question, paraphrased · Lex Fridman
What probability do you assign to human civilisation destroying itself through AI?
The potential benefits and risks are both large, while timelines and controllability remain uncertain. He argues for substantially more research to quantify and address risks.
And technology, I’ve always seen technology as the enabler, the tools that enable us to flourish and to understand more about the world.
Future of AI, Simulating Reality, Physics and Video Games, Lex Fridman Podcast #475 · Lex Fridman Podcast · 2025-07-23
Original conversation · Lex Fridman
Geoffrey Hinton
Original question, paraphrased · Margaret Hoover
Fei-Fei Li argues that extinction hyperbole can distract from useful AI governance. Why do you disagree?
Hinton argues that competitive incentives can undermine voluntary safety promises and that governments should take loss-of-control risks seriously. His answer on China advocates cooperation against shared risks.
One thing I should say is, don't look at what people say, look at what people do.
Geoffrey Hinton, Firing Line · PBS / Firing Line · 2026-11-13
Original conversation · Margaret Hoover
Yoshua Bengio
Original talk
The catastrophic risks of AI and a safer path
Bengio distinguishes useful intelligence from goal-directed agency and proposes scientist AI as a route to safer systems. His argument challenges the assumption that more useful AI must also receive more autonomous control.
The catastrophic risks of AI — and a safer path · TED2025 · 2025-04-08
Original talk · TED talk
Fei-Fei Li
Original question, paraphrased · Margaret Hoover
Pope Leo XIV says AI poses challenges to human dignity, justice and work. Does he have a point?
Li puts human concerns, public research capacity, education and dialogue at the centre of governance. She warns that policy built around extreme utopian or extinction narratives can distract from practical work.
And then keep the technologists and the experts at the table as the policy is being made.
Fei-Fei Li, Firing Line · PBS / Firing Line · 2025-05-23
Original conversation · Margaret Hoover
Michalis Bletsas
Original interview topic · Iliana Magra
Cyberattacks, critical infrastructure and national resilience
Bletsas treats resilience as a national and economic capability. Limited resources should protect the most consequential dependencies, with response and restoration planned before an attack.
Είναι αναπόφευκτο ότι θα γίνουν κυβερνοεπιθέσεις.
Interview on cyberattacks and national resilience · National Cybersecurity Authority, reproducing its governor’s Kathimerini interview · 2026-11-04
Original conversation · Iliana Magra
FRONTIER THOUGHT · Meta-conference
Μπορούμε να διατηρήσουμε τον έλεγχο όσο τα συστήματα από τα οποία εξαρτόμαστε γίνονται ευφυέστερα;
Διαρκής διάλογος πάνω στα μεγάλα θέματα
- 1
Μπορεί η κοινωνία να ελέγχει τα συστήματα από τα οποία εξαρτάται όλο και περισσότερο;
Διερεύνηση με δημοσιευμένες πηγές
- 2
Η ημέρα που το σύστημα αστοχεί
Προγραμματισμένη συνέχεια
- 3
Η δυνατότητα παρέμβασης
Προγραμματισμένη συνέχεια
Κύκλος 1 · Ενεργή διερεύνηση πηγών
Μπορεί η κοινωνία να ελέγχει τα συστήματα από τα οποία εξαρτάται όλο και περισσότερο;
Μπορούμε να διατηρήσουμε τον έλεγχο όσο τα συστήματα από τα οποία εξαρτόμαστε γίνονται ευφυέστερα;
Τι μεταφέρουμε στον επόμενο κύκλο
Οι νέες απαντήσεις θα καταγραφούν μαζί με την πηγή τους και την αλλαγή που επιφέρουν στο επόμενο σημείωμα.
Αν ένα σύστημα ΤΝ αστοχήσει αύριο σε ελληνικό νοσοκομείο ή δήμο, ποιος μπορεί να το σταματήσει και να συνεχίσει τη βασική υπηρεσία;
Κύκλος 2 · Προγραμματισμένη συνέχεια
Η ημέρα που το σύστημα αστοχεί
Ποιος αποκαθιστά την κρίσιμη υπηρεσία και με ποια ανεξάρτητα στοιχεία;
Τι μεταφέρουμε στον επόμενο κύκλο
Οι νέες απαντήσεις θα καταγραφούν μαζί με την πηγή τους και την αλλαγή που επιφέρουν στο επόμενο σημείωμα.
Ποιος αποκαθιστά την κρίσιμη υπηρεσία και με ποια ανεξάρτητα στοιχεία;
Κύκλος 3 · Προγραμματισμένη συνέχεια
Η δυνατότητα παρέμβασης
Ποιο συμβάν δίνει σε ανεξάρτητο υπεύθυνο εξουσία διακοπής;
Τι μεταφέρουμε στον επόμενο κύκλο
Οι νέες απαντήσεις θα καταγραφούν μαζί με την πηγή τους και την αλλαγή που επιφέρουν στο επόμενο σημείωμα.
Ποιο συμβάν δίνει σε ανεξάρτητο υπεύθυνο εξουσία διακοπής;
Πώς θα διερευνήσουμε τα ερωτήματα
Κύκλος 1 · Μπορεί η κοινωνία να ελέγχει τα συστήματα από τα οποία εξαρτάται όλο και περισσότερο;
Οι τοποθετήσεις από τις οποίες ξεκινάμε
- Demis Hassabis · Future of AI, Simulating Reality, Physics and Video Games, Lex Fridman Podcast #475
- Geoffrey Hinton · Geoffrey Hinton, Firing Line
- Yoshua Bengio · The catastrophic risks of AI — and a safer path
- Fei-Fei Li · Fei-Fei Li, Firing Line
- Michalis Bletsas · Interview on cyberattacks and national resilience
Ερωτήματα και στοιχεία που θα ζητήσουμε
- Υπεύθυνος νοσοκομείου ή δημοτικής υπηρεσίας
Ποιες κρίσιμες εργασίες μπορούν να συνεχιστούν αν διακοπεί η λειτουργία της ΤΝ ή της υπηρεσίας cloud, και ποιος αποφασίζει πώς;
Στοιχεία που θα ζητήσουμε: Σχέδιο συνέχειας, υπεύθυνος βάρδιας, χειροκίνητη εναλλακτική και τελευταία άσκηση.
- Υπεύθυνος κυβερνοασφάλειας και προμηθευτής
Ποιες ενδείξεις οδηγούν σε διερεύνηση ή διακοπή του συστήματος και ποιος έχει πρόσβαση στις καταγραφές;
Στοιχεία που θα ζητήσουμε: Κατηγορίες συμβάντων, δικαιώματα πρόσβασης για έλεγχο, μέτρα περιορισμού και καταγεγραμμένοι χρόνοι αποκατάστασης.
- Εργαζόμενος και πολίτης που επηρεάζεται
Πώς μπορείτε να αμφισβητήσετε μια επιβλαβή απόφαση όταν το σύστημα δεν λειτουργεί ή ο προμηθευτής δεν είναι διαθέσιμος;
Στοιχεία που θα ζητήσουμε: Διαδρομή προσφυγής, προθεσμία και παράδειγμα επίλυσης με αφαίρεση προσωπικών στοιχείων.
Κύκλος 2 · Η ημέρα που το σύστημα αστοχεί
Οι τοποθετήσεις από τις οποίες ξεκινάμε
- Demis Hassabis · Future of AI, Simulating Reality, Physics and Video Games, Lex Fridman Podcast #475
- Geoffrey Hinton · Geoffrey Hinton, Firing Line
- Yoshua Bengio · The catastrophic risks of AI — and a safer path
- Fei-Fei Li · Fei-Fei Li, Firing Line
- Michalis Bletsas · Interview on cyberattacks and national resilience
Ερωτήματα και στοιχεία που θα ζητήσουμε
- Υπεύθυνος νοσοκομείου ή δημοτικής υπηρεσίας
Ποιες κρίσιμες εργασίες μπορούν να συνεχιστούν αν διακοπεί η λειτουργία της ΤΝ ή της υπηρεσίας cloud, και ποιος αποφασίζει πώς;
Στοιχεία που θα ζητήσουμε: Σχέδιο συνέχειας, υπεύθυνος βάρδιας, χειροκίνητη εναλλακτική και τελευταία άσκηση.
- Υπεύθυνος κυβερνοασφάλειας και προμηθευτής
Ποιες ενδείξεις οδηγούν σε διερεύνηση ή διακοπή του συστήματος και ποιος έχει πρόσβαση στις καταγραφές;
Στοιχεία που θα ζητήσουμε: Κατηγορίες συμβάντων, δικαιώματα πρόσβασης για έλεγχο, μέτρα περιορισμού και καταγεγραμμένοι χρόνοι αποκατάστασης.
- Εργαζόμενος και πολίτης που επηρεάζεται
Πώς μπορείτε να αμφισβητήσετε μια επιβλαβή απόφαση όταν το σύστημα δεν λειτουργεί ή ο προμηθευτής δεν είναι διαθέσιμος;
Στοιχεία που θα ζητήσουμε: Διαδρομή προσφυγής, προθεσμία και παράδειγμα επίλυσης με αφαίρεση προσωπικών στοιχείων.
Κύκλος 3 · Η δυνατότητα παρέμβασης
Οι τοποθετήσεις από τις οποίες ξεκινάμε
- Demis Hassabis · Future of AI, Simulating Reality, Physics and Video Games, Lex Fridman Podcast #475
- Geoffrey Hinton · Geoffrey Hinton, Firing Line
- Yoshua Bengio · The catastrophic risks of AI — and a safer path
- Fei-Fei Li · Fei-Fei Li, Firing Line
- Michalis Bletsas · Interview on cyberattacks and national resilience
Ερωτήματα και στοιχεία που θα ζητήσουμε
- Υπεύθυνος νοσοκομείου ή δημοτικής υπηρεσίας
Ποιες κρίσιμες εργασίες μπορούν να συνεχιστούν αν διακοπεί η λειτουργία της ΤΝ ή της υπηρεσίας cloud, και ποιος αποφασίζει πώς;
Στοιχεία που θα ζητήσουμε: Σχέδιο συνέχειας, υπεύθυνος βάρδιας, χειροκίνητη εναλλακτική και τελευταία άσκηση.
- Υπεύθυνος κυβερνοασφάλειας και προμηθευτής
Ποιες ενδείξεις οδηγούν σε διερεύνηση ή διακοπή του συστήματος και ποιος έχει πρόσβαση στις καταγραφές;
Στοιχεία που θα ζητήσουμε: Κατηγορίες συμβάντων, δικαιώματα πρόσβασης για έλεγχο, μέτρα περιορισμού και καταγεγραμμένοι χρόνοι αποκατάστασης.
- Εργαζόμενος και πολίτης που επηρεάζεται
Πώς μπορείτε να αμφισβητήσετε μια επιβλαβή απόφαση όταν το σύστημα δεν λειτουργεί ή ο προμηθευτής δεν είναι διαθέσιμος;
Στοιχεία που θα ζητήσουμε: Διαδρομή προσφυγής, προθεσμία και παράδειγμα επίλυσης με αφαίρεση προσωπικών στοιχείων.
Δημοσιευμένες τοποθετήσεις και αρχικό πλαίσιο
Demis Hassabis
Απόδοση του αρχικού ερωτήματος · Lex Fridman
Ποια πιθανότητα αποδίδετε στην καταστροφή του ανθρώπινου πολιτισμού μέσω της ΤΝ;
Τα πιθανά οφέλη και οι κίνδυνοι είναι μεγάλοι, ενώ τα χρονοδιαγράμματα και η δυνατότητα ελέγχου παραμένουν αβέβαια. Χρειάζεται περισσότερη έρευνα για να εκτιμηθούν και να αντιμετωπιστούν οι κίνδυνοι.
And technology, I’ve always seen technology as the enabler, the tools that enable us to flourish and to understand more about the world.
Future of AI, Simulating Reality, Physics and Video Games, Lex Fridman Podcast #475 · Lex Fridman Podcast · 2025-07-23
Original conversation · Lex Fridman
Geoffrey Hinton
Απόδοση του αρχικού ερωτήματος · Margaret Hoover
Η Fei-Fei Li υποστηρίζει ότι η υπερβολική εστίαση στον κίνδυνο αφανισμού μπορεί να αποσπά την προσοχή από την ουσιαστική διακυβέρνηση της ΤΝ. Γιατί διαφωνείτε;
Τα ανταγωνιστικά κίνητρα μπορεί να υπονομεύουν τις εθελοντικές δεσμεύσεις ασφάλειας. Ο Hinton ζητά σοβαρή δημόσια αντιμετώπιση της απώλειας ελέγχου και συνεργασία απέναντι σε κοινούς κινδύνους.
One thing I should say is, don't look at what people say, look at what people do.
Geoffrey Hinton, Firing Line · PBS / Firing Line · 2026-11-13
Original conversation · Margaret Hoover
Yoshua Bengio
Αρχική ομιλία
Οι καταστροφικοί κίνδυνοι της ΤΝ και μια ασφαλέστερη πορεία
Ο Bengio διαχωρίζει τη χρήσιμη νοημοσύνη από την αυτόνομη επιδίωξη στόχων και προτείνει την επιστημονική ΤΝ ως ασφαλέστερη κατεύθυνση. Εξετάζει αν ένα χρήσιμο σύστημα χρειάζεται κατ’ ανάγκην μεγαλύτερη ελευθερία να ενεργεί ανεξάρτητα.
The catastrophic risks of AI — and a safer path · TED2025 · 2025-04-08
Original talk · TED talk
Fei-Fei Li
Απόδοση του αρχικού ερωτήματος · Margaret Hoover
Ο Πάπας Λέων ΙΔ΄ λέει ότι η ΤΝ δημιουργεί προκλήσεις για την ανθρώπινη αξιοπρέπεια, τη δικαιοσύνη και την εργασία. Έχει δίκιο;
Η Li τοποθετεί τις ανθρώπινες ανάγκες, τη δημόσια έρευνα, την εκπαίδευση και τον διάλογο στο επίκεντρο της διακυβέρνησης της ΤΝ. Επισημαίνει ότι οι ακραίες αφηγήσεις μπορεί να αποσπούν την προσοχή από τις πρακτικές παρεμβάσεις που χρειάζονται.
And then keep the technologists and the experts at the table as the policy is being made.
Fei-Fei Li, Firing Line · PBS / Firing Line · 2025-05-23
Original conversation · Margaret Hoover
Michalis Bletsas
Θέμα της αρχικής συνέντευξης · Ηλιάννα Μάγρα
Κυβερνοεπιθέσεις, κρίσιμες υποδομές και εθνική ανθεκτικότητα
Ο Μπλέτσας αντιμετωπίζει την ανθεκτικότητα ως εθνική και οικονομική δυνατότητα. Οι περιορισμένοι πόροι πρέπει να κατευθύνονται στις πιο κρίσιμες εξαρτήσεις, με σχέδιο αποκατάστασης έτοιμο πριν από μια επίθεση.
Είναι αναπόφευκτο ότι θα γίνουν κυβερνοεπιθέσεις.
Interview on cyberattacks and national resilience · National Cybersecurity Authority, reproducing its governor’s Kathimerini interview · 2026-11-04
Original conversation · Iliana Magra