Keamanan AI
Upaya memastikan kecerdasan buatan super tetap patuh pada nilai-nilai kemanusiaan.
- AI Alignment: Penyelarasan tujuan AI agar tidak merugikan peradaban manusia.
- Superintelligence: Tingkat kecerdasan buatan yang melampaui seluruh manusia di bumi.
- Constitutional AI: Memberikan "kitab undang-undang" moral di dalam kode inti AI.
- Hard Takeoff: Skenario di mana AI menjadi sangat cerdas dalam waktu yang sangat singkat.
- Control Problem: Tantangan mematikan sistem AI jika ia mulai bertindak di luar kendali.