Ik gebruik AI constant. Mijn 4- en 6-jarigen gaan zelfs naar een AI-gericht school. Ik ben intens optimistisch over onze AI-toekomst. Maar één ding dat ik zal vechten om te beschermen en nooit zal laten automatiseren door AI: menselijke autonomie. AI loopt het risico de "autocompleter voor het leven" te worden—die je de volgende actie, baan, relatie, identiteit vertelt. Wij die deze AI-overgang doormaken, zullen in een ongekende manier in de menselijke geschiedenis verleid worden om machines te laten substitueren voor onze zelfsturing. De meeste cognitieve ontlasting is een oprechte menselijke triomf: schrijven verminderde de geheugenlast, mechanische berekening verlichtte ons van rekenkundige berekeningen, en GPS-navigatie elimineerde ruimtelijk redeneren van het vinden van de weg. Elke bevrijde cognitieve capaciteit voor hoger-ordelijk denken. Zoals Alfred North Whitehead opmerkte, vordert de beschaving door "het aantal belangrijke handelingen uit te breiden die we kunnen uitvoeren zonder erover na te denken." Maar als AI-systemen het domein van de deliberatie zelf binnentreden, gebeurt er iets fundamenteel anders. In plaats van cognitieve capaciteit vrij te maken voor hoger-ordelijk denken, loopt AI het risico de keuzes voor ons te maken. Elke kleine delegatie van keuze zal onschuldig lijken, zelfs natuurlijk. Maar samen kunnen de micro-afdankingen van oordeel je – keuze voor keuze, dag voor dag – gewennen aan passiviteit en afhankelijkheid. Het kan je vermogen om zelf te kiezen ondermijnen, van triviale zaken zoals wat je voor ontbijt wilt, tot fundamentele keuzes over hoe je goed kunt leven. Gelukkig kan AI ook duidelijk het tegenovergestelde doen: Door leren efficiënter te maken, kan AI tijd vrijmaken voor zelfgestuurde verkenning; als een Socratische gesprekspartner kan het je capaciteit om te delibereren versterken; door de juiste soort personalisatie kan het je helpen om je unieke gaven te ontdekken en te ontwikkelen, en deze te gebruiken om autonoom en goed te leven. Laten we kiezen om te bouwen voor menselijke autonomie... terwijl we ons nog herinneren wat het betekent om te kiezen. Volledige video met @JohnathanBi: