Dialogue

Can society stay in control of systems it increasingly depends on?

FRONTIER THOUGHT · Meta-conference

Can we retain control as the systems we depend on become more intelligent?

Persistent meta & virtual dialogues

One continuing dialogue, three programme rounds
  1. 1

    Can society stay in control of systems it increasingly depends on?

    Inquiry from published sources

  2. 2

    The day the system fails

    Planned follow-up

  3. 3

    The authority to intervene

    Planned follow-up

Round 1 · Active source inquiry

Can society stay in control of systems it increasingly depends on?

Can we retain control as the systems we depend on become more intelligent?

What carries into the next round

Run a short tabletop incident with the service owner and frontline staff. Record the first unresolved dependency and put that into the next moderator brief.

If an AI system fails in a Greek hospital or municipality tomorrow, who can stop it and keep the essential service running?

Sources and field questions for this round ↓

Round 2 · Planned follow-up

The day the system fails

Who can restore the essential service, with which independent evidence?

What carries into the next round

Run a short tabletop incident with the service owner and frontline staff. Record the first unresolved dependency and put that into the next moderator brief.

Who can restore the essential service, with which independent evidence?

Sources and field questions for this round ↓

Round 3 · Planned follow-up

The authority to intervene

Which incident gives someone outside the supplier authority to stop deployment?

What carries into the next round

Run a short tabletop incident with the service owner and frontline staff. Record the first unresolved dependency and put that into the next moderator brief.

Which incident gives someone outside the supplier authority to stop deployment?

Sources and field questions for this round ↓

How we will investigate the questions

Round 1 · Can society stay in control of systems it increasingly depends on?

Published positions informing this round

Questions and evidence to request

  1. Hospital operator or municipal service manager

    Which essential task must continue during an AI or cloud outage, and who owns that decision?

    Evidence to request: Continuity procedure, named duty role, manual fallback and last exercise record.

  2. Cybersecurity lead and system supplier

    What signals trigger an investigation or shutdown, and who can see the record?

    Evidence to request: Incident categories, audit access, containment procedure and measured detection and restoration times.

  3. Frontline worker and affected service user

    How do you challenge a harmful decision when the system or supplier is unavailable?

    Evidence to request: An actual escalation route, a response deadline and a completed resolution example with personal details removed.

Round 2 · The day the system fails

Published positions informing this round

Questions and evidence to request

  1. Hospital operator or municipal service manager

    Which essential task must continue during an AI or cloud outage, and who owns that decision?

    Evidence to request: Continuity procedure, named duty role, manual fallback and last exercise record.

  2. Cybersecurity lead and system supplier

    What signals trigger an investigation or shutdown, and who can see the record?

    Evidence to request: Incident categories, audit access, containment procedure and measured detection and restoration times.

  3. Frontline worker and affected service user

    How do you challenge a harmful decision when the system or supplier is unavailable?

    Evidence to request: An actual escalation route, a response deadline and a completed resolution example with personal details removed.

Round 3 · The authority to intervene

Published positions informing this round

Questions and evidence to request

  1. Hospital operator or municipal service manager

    Which essential task must continue during an AI or cloud outage, and who owns that decision?

    Evidence to request: Continuity procedure, named duty role, manual fallback and last exercise record.

  2. Cybersecurity lead and system supplier

    What signals trigger an investigation or shutdown, and who can see the record?

    Evidence to request: Incident categories, audit access, containment procedure and measured detection and restoration times.

  3. Frontline worker and affected service user

    How do you challenge a harmful decision when the system or supplier is unavailable?

    Evidence to request: An actual escalation route, a response deadline and a completed resolution example with personal details removed.

Published positions and original context

Demis Hassabis

Original question, paraphrased · Lex Fridman

What probability do you assign to human civilisation destroying itself through AI?

The potential benefits and risks are both large, while timelines and controllability remain uncertain. He argues for substantially more research to quantify and address risks.

And technology, I’ve always seen technology as the enabler, the tools that enable us to flourish and to understand more about the world.

Future of AI, Simulating Reality, Physics and Video Games, Lex Fridman Podcast #475 · Lex Fridman Podcast · 2025-07-23

Original conversation · Lex Fridman

Geoffrey Hinton

Original question, paraphrased · Margaret Hoover

Fei-Fei Li argues that extinction hyperbole can distract from useful AI governance. Why do you disagree?

Hinton argues that competitive incentives can undermine voluntary safety promises and that governments should take loss-of-control risks seriously. His answer on China advocates cooperation against shared risks.

One thing I should say is, don't look at what people say, look at what people do.

Geoffrey Hinton, Firing Line · PBS / Firing Line · 2026-11-13

Original conversation · Margaret Hoover

Yoshua Bengio

Original talk

The catastrophic risks of AI and a safer path

Bengio distinguishes useful intelligence from goal-directed agency and proposes scientist AI as a route to safer systems. His argument challenges the assumption that more useful AI must also receive more autonomous control.

The catastrophic risks of AI — and a safer path · TED2025 · 2025-04-08

Original talk · TED talk

Fei-Fei Li

Original question, paraphrased · Margaret Hoover

Pope Leo XIV says AI poses challenges to human dignity, justice and work. Does he have a point?

Li puts human concerns, public research capacity, education and dialogue at the centre of governance. She warns that policy built around extreme utopian or extinction narratives can distract from practical work.

And then keep the technologists and the experts at the table as the policy is being made.

Fei-Fei Li, Firing Line · PBS / Firing Line · 2025-05-23

Original conversation · Margaret Hoover

Michalis Bletsas

Original interview topic · Iliana Magra

Cyberattacks, critical infrastructure and national resilience

Bletsas treats resilience as a national and economic capability. Limited resources should protect the most consequential dependencies, with response and restoration planned before an attack.

Είναι αναπόφευκτο ότι θα γίνουν κυβερνοεπιθέσεις.

Interview on cyberattacks and national resilience · National Cybersecurity Authority, reproducing its governor’s Kathimerini interview · 2026-11-04

Original conversation · Iliana Magra

Continue the dialogue on EventChanger ↗

Read the full analysis ↗

FRONTIER THOUGHT · Meta-conference

Μπορούμε να διατηρήσουμε τον έλεγχο όσο τα συστήματα από τα οποία εξαρτόμαστε γίνονται ευφυέστερα;

Διαρκής διάλογος πάνω στα μεγάλα θέματα

Μία συζήτηση που εξελίσσεται σε τρεις κύκλους
  1. 1

    Μπορεί η κοινωνία να ελέγχει τα συστήματα από τα οποία εξαρτάται όλο και περισσότερο;

    Διερεύνηση με δημοσιευμένες πηγές

  2. 2

    Η ημέρα που το σύστημα αστοχεί

    Προγραμματισμένη συνέχεια

  3. 3

    Η δυνατότητα παρέμβασης

    Προγραμματισμένη συνέχεια

Κύκλος 1 · Ενεργή διερεύνηση πηγών

Μπορεί η κοινωνία να ελέγχει τα συστήματα από τα οποία εξαρτάται όλο και περισσότερο;

Μπορούμε να διατηρήσουμε τον έλεγχο όσο τα συστήματα από τα οποία εξαρτόμαστε γίνονται ευφυέστερα;

Τι μεταφέρουμε στον επόμενο κύκλο

Οι νέες απαντήσεις θα καταγραφούν μαζί με την πηγή τους και την αλλαγή που επιφέρουν στο επόμενο σημείωμα.

Αν ένα σύστημα ΤΝ αστοχήσει αύριο σε ελληνικό νοσοκομείο ή δήμο, ποιος μπορεί να το σταματήσει και να συνεχίσει τη βασική υπηρεσία;

Πηγές και ερωτήματα για τη διερεύνηση ↓

Κύκλος 2 · Προγραμματισμένη συνέχεια

Η ημέρα που το σύστημα αστοχεί

Ποιος αποκαθιστά την κρίσιμη υπηρεσία και με ποια ανεξάρτητα στοιχεία;

Τι μεταφέρουμε στον επόμενο κύκλο

Οι νέες απαντήσεις θα καταγραφούν μαζί με την πηγή τους και την αλλαγή που επιφέρουν στο επόμενο σημείωμα.

Ποιος αποκαθιστά την κρίσιμη υπηρεσία και με ποια ανεξάρτητα στοιχεία;

Πηγές και ερωτήματα για τη διερεύνηση ↓

Κύκλος 3 · Προγραμματισμένη συνέχεια

Η δυνατότητα παρέμβασης

Ποιο συμβάν δίνει σε ανεξάρτητο υπεύθυνο εξουσία διακοπής;

Τι μεταφέρουμε στον επόμενο κύκλο

Οι νέες απαντήσεις θα καταγραφούν μαζί με την πηγή τους και την αλλαγή που επιφέρουν στο επόμενο σημείωμα.

Ποιο συμβάν δίνει σε ανεξάρτητο υπεύθυνο εξουσία διακοπής;

Πηγές και ερωτήματα για τη διερεύνηση ↓

Πώς θα διερευνήσουμε τα ερωτήματα

Κύκλος 1 · Μπορεί η κοινωνία να ελέγχει τα συστήματα από τα οποία εξαρτάται όλο και περισσότερο;

Οι τοποθετήσεις από τις οποίες ξεκινάμε

Ερωτήματα και στοιχεία που θα ζητήσουμε

  1. Υπεύθυνος νοσοκομείου ή δημοτικής υπηρεσίας

    Ποιες κρίσιμες εργασίες μπορούν να συνεχιστούν αν διακοπεί η λειτουργία της ΤΝ ή της υπηρεσίας cloud, και ποιος αποφασίζει πώς;

    Στοιχεία που θα ζητήσουμε: Σχέδιο συνέχειας, υπεύθυνος βάρδιας, χειροκίνητη εναλλακτική και τελευταία άσκηση.

  2. Υπεύθυνος κυβερνοασφάλειας και προμηθευτής

    Ποιες ενδείξεις οδηγούν σε διερεύνηση ή διακοπή του συστήματος και ποιος έχει πρόσβαση στις καταγραφές;

    Στοιχεία που θα ζητήσουμε: Κατηγορίες συμβάντων, δικαιώματα πρόσβασης για έλεγχο, μέτρα περιορισμού και καταγεγραμμένοι χρόνοι αποκατάστασης.

  3. Εργαζόμενος και πολίτης που επηρεάζεται

    Πώς μπορείτε να αμφισβητήσετε μια επιβλαβή απόφαση όταν το σύστημα δεν λειτουργεί ή ο προμηθευτής δεν είναι διαθέσιμος;

    Στοιχεία που θα ζητήσουμε: Διαδρομή προσφυγής, προθεσμία και παράδειγμα επίλυσης με αφαίρεση προσωπικών στοιχείων.

Κύκλος 2 · Η ημέρα που το σύστημα αστοχεί

Οι τοποθετήσεις από τις οποίες ξεκινάμε

Ερωτήματα και στοιχεία που θα ζητήσουμε

  1. Υπεύθυνος νοσοκομείου ή δημοτικής υπηρεσίας

    Ποιες κρίσιμες εργασίες μπορούν να συνεχιστούν αν διακοπεί η λειτουργία της ΤΝ ή της υπηρεσίας cloud, και ποιος αποφασίζει πώς;

    Στοιχεία που θα ζητήσουμε: Σχέδιο συνέχειας, υπεύθυνος βάρδιας, χειροκίνητη εναλλακτική και τελευταία άσκηση.

  2. Υπεύθυνος κυβερνοασφάλειας και προμηθευτής

    Ποιες ενδείξεις οδηγούν σε διερεύνηση ή διακοπή του συστήματος και ποιος έχει πρόσβαση στις καταγραφές;

    Στοιχεία που θα ζητήσουμε: Κατηγορίες συμβάντων, δικαιώματα πρόσβασης για έλεγχο, μέτρα περιορισμού και καταγεγραμμένοι χρόνοι αποκατάστασης.

  3. Εργαζόμενος και πολίτης που επηρεάζεται

    Πώς μπορείτε να αμφισβητήσετε μια επιβλαβή απόφαση όταν το σύστημα δεν λειτουργεί ή ο προμηθευτής δεν είναι διαθέσιμος;

    Στοιχεία που θα ζητήσουμε: Διαδρομή προσφυγής, προθεσμία και παράδειγμα επίλυσης με αφαίρεση προσωπικών στοιχείων.

Κύκλος 3 · Η δυνατότητα παρέμβασης

Οι τοποθετήσεις από τις οποίες ξεκινάμε

Ερωτήματα και στοιχεία που θα ζητήσουμε

  1. Υπεύθυνος νοσοκομείου ή δημοτικής υπηρεσίας

    Ποιες κρίσιμες εργασίες μπορούν να συνεχιστούν αν διακοπεί η λειτουργία της ΤΝ ή της υπηρεσίας cloud, και ποιος αποφασίζει πώς;

    Στοιχεία που θα ζητήσουμε: Σχέδιο συνέχειας, υπεύθυνος βάρδιας, χειροκίνητη εναλλακτική και τελευταία άσκηση.

  2. Υπεύθυνος κυβερνοασφάλειας και προμηθευτής

    Ποιες ενδείξεις οδηγούν σε διερεύνηση ή διακοπή του συστήματος και ποιος έχει πρόσβαση στις καταγραφές;

    Στοιχεία που θα ζητήσουμε: Κατηγορίες συμβάντων, δικαιώματα πρόσβασης για έλεγχο, μέτρα περιορισμού και καταγεγραμμένοι χρόνοι αποκατάστασης.

  3. Εργαζόμενος και πολίτης που επηρεάζεται

    Πώς μπορείτε να αμφισβητήσετε μια επιβλαβή απόφαση όταν το σύστημα δεν λειτουργεί ή ο προμηθευτής δεν είναι διαθέσιμος;

    Στοιχεία που θα ζητήσουμε: Διαδρομή προσφυγής, προθεσμία και παράδειγμα επίλυσης με αφαίρεση προσωπικών στοιχείων.

Δημοσιευμένες τοποθετήσεις και αρχικό πλαίσιο

Demis Hassabis

Απόδοση του αρχικού ερωτήματος · Lex Fridman

Ποια πιθανότητα αποδίδετε στην καταστροφή του ανθρώπινου πολιτισμού μέσω της ΤΝ;

Τα πιθανά οφέλη και οι κίνδυνοι είναι μεγάλοι, ενώ τα χρονοδιαγράμματα και η δυνατότητα ελέγχου παραμένουν αβέβαια. Χρειάζεται περισσότερη έρευνα για να εκτιμηθούν και να αντιμετωπιστούν οι κίνδυνοι.

And technology, I’ve always seen technology as the enabler, the tools that enable us to flourish and to understand more about the world.

Future of AI, Simulating Reality, Physics and Video Games, Lex Fridman Podcast #475 · Lex Fridman Podcast · 2025-07-23

Original conversation · Lex Fridman

Geoffrey Hinton

Απόδοση του αρχικού ερωτήματος · Margaret Hoover

Η Fei-Fei Li υποστηρίζει ότι η υπερβολική εστίαση στον κίνδυνο αφανισμού μπορεί να αποσπά την προσοχή από την ουσιαστική διακυβέρνηση της ΤΝ. Γιατί διαφωνείτε;

Τα ανταγωνιστικά κίνητρα μπορεί να υπονομεύουν τις εθελοντικές δεσμεύσεις ασφάλειας. Ο Hinton ζητά σοβαρή δημόσια αντιμετώπιση της απώλειας ελέγχου και συνεργασία απέναντι σε κοινούς κινδύνους.

One thing I should say is, don't look at what people say, look at what people do.

Geoffrey Hinton, Firing Line · PBS / Firing Line · 2026-11-13

Original conversation · Margaret Hoover

Yoshua Bengio

Αρχική ομιλία

Οι καταστροφικοί κίνδυνοι της ΤΝ και μια ασφαλέστερη πορεία

Ο Bengio διαχωρίζει τη χρήσιμη νοημοσύνη από την αυτόνομη επιδίωξη στόχων και προτείνει την επιστημονική ΤΝ ως ασφαλέστερη κατεύθυνση. Εξετάζει αν ένα χρήσιμο σύστημα χρειάζεται κατ’ ανάγκην μεγαλύτερη ελευθερία να ενεργεί ανεξάρτητα.

The catastrophic risks of AI — and a safer path · TED2025 · 2025-04-08

Original talk · TED talk

Fei-Fei Li

Απόδοση του αρχικού ερωτήματος · Margaret Hoover

Ο Πάπας Λέων ΙΔ΄ λέει ότι η ΤΝ δημιουργεί προκλήσεις για την ανθρώπινη αξιοπρέπεια, τη δικαιοσύνη και την εργασία. Έχει δίκιο;

Η Li τοποθετεί τις ανθρώπινες ανάγκες, τη δημόσια έρευνα, την εκπαίδευση και τον διάλογο στο επίκεντρο της διακυβέρνησης της ΤΝ. Επισημαίνει ότι οι ακραίες αφηγήσεις μπορεί να αποσπούν την προσοχή από τις πρακτικές παρεμβάσεις που χρειάζονται.

And then keep the technologists and the experts at the table as the policy is being made.

Fei-Fei Li, Firing Line · PBS / Firing Line · 2025-05-23

Original conversation · Margaret Hoover

Michalis Bletsas

Θέμα της αρχικής συνέντευξης · Ηλιάννα Μάγρα

Κυβερνοεπιθέσεις, κρίσιμες υποδομές και εθνική ανθεκτικότητα

Ο Μπλέτσας αντιμετωπίζει την ανθεκτικότητα ως εθνική και οικονομική δυνατότητα. Οι περιορισμένοι πόροι πρέπει να κατευθύνονται στις πιο κρίσιμες εξαρτήσεις, με σχέδιο αποκατάστασης έτοιμο πριν από μια επίθεση.

Είναι αναπόφευκτο ότι θα γίνουν κυβερνοεπιθέσεις.

Interview on cyberattacks and national resilience · National Cybersecurity Authority, reproducing its governor’s Kathimerini interview · 2026-11-04

Original conversation · Iliana Magra

Συνεχίστε τον διάλογο στο EventChanger ↗

Δείτε την πλήρη ανάλυση ↗