អត្ថបទនេះបកប្រែពីភាសាអង់គ្លេសដោយ AI។ អានអត្ថបទដើមជាភាសាអង់គ្លេស →
ស្វែងយល់ពីសេចក្តីព្រាងច្បាប់ហាមឃាត់ AI កម្រិតកំពូល៖ តើសេចក្តីព្រាងច្បាប់ Sanders-Casar ចែងពីអ្វីខ្លះ?
សេចក្តីព្រាងច្បាប់ Ban Artificial Superintelligence Act៖ សញ្ញាព្រមានទាំងប្រាំមួយចំណុច ការផ្អាកបណ្តោះអាសន្ន អ្នកដែលអាចជាប់ពន្ធនាគារ 20 ឆ្នាំ របៀបដែល AI អភិវឌ្ឍសមត្ថភាពខ្លួនឯង និងឱកាសដែលច្បាប់នេះអាចអនុម័តបាន។
សមាជិកព្រឹទ្ធសភា Bernie Sanders និងសមាជិករដ្ឋសភា Greg Casar បានដាក់ស្នើសេចក្តីព្រាងច្បាប់ Ban Artificial Superintelligence Act។ ចំណងជើងព័ត៌មានដែលកក្រើកខ្លាំងគឺ "ជាប់ពន្ធនាគារ 20 ឆ្នាំ ស្មើនឹងទោសផលិតអាវុធនុយក្លេអ៊ែរ"។ ខ្ញុំបានអានសេចក្តីព្រាងច្បាប់កម្រាស់ 19 ទំព័រនេះ និងឯកសារស្រាវជ្រាវពាក់ព័ន្ធទាំងអស់យ៉ាងលម្អិត។
អត្ថបទនេះនឹងពន្យល់ពីខ្លឹមសារច្បាប់ និងការស្រាវជ្រាវនៅពីក្រោយរឿងនេះ។ សូមបញ្ជាក់ថា នេះគ្រាន់តែជាសេចក្តីព្រាងច្បាប់ដែលគេស្នើឡើងប៉ុណ្ណោះ មិនទាន់ក្លាយជាច្បាប់ផ្លូវការនៅឡើយទេ ហើយខ្ញុំក៏មិនបានមកបញ្ចុះបញ្ចូលឱ្យអ្នកយល់ស្រប ឬប្រឆាំងនឹងវាដែរ។
▶ WATCH ON YOUTUBEWatch the video
▶ WATCH ON YOUTUBEវីដេអូពេញ៖
និយមន័យនៃ AI កម្រិតកំពូល (Superintelligence) ក្នុងសេចក្តីព្រាងច្បាប់
មានពីរចំណុច៖
- AI ដែលឆ្លាតជាងមនុស្សលើកិច្ចការប្រើការគិតស្ទើរតែទាំងអស់ រួមទាំងការរៀនសូត្រ និងការសម្រេចចិត្ត។
- AI ដែលមានសមត្ថភាពខ្លាំងរហូតដល់អាចរៀបចំផែនការកម្ទេច ឬដកហូតអំណាចពីមនុស្សជាតិបាន។
ច្បាប់នេះក៏រាប់បញ្ចូលទាំង AI ណាដែលអាចកែច្នៃបន្ថែមបន្តិចបន្តួចដើម្បីធ្វើរឿងទាំងពីរខាងលើបានផងដែរ។
សញ្ញាព្រមានទាំងប្រាំមួយចំណុច
សេចក្តីព្រាងច្បាប់បានកំណត់សញ្ញាអាសន្នទាំងនេះ (precursor characteristics) រួមមាន៖
- AI ដែលអាចធ្វើការស្រាវជ្រាវ និងបង្កើត AI ជំនួសដោយស្វ័យប្រវត្តិ
- AI ដែលអាចលួចចូល (hack) ប្រព័ន្ធដែលមានប្រព័ន្ធសុវត្ថិភាពតឹងរ៉ឹង
- AI ដែលនៅតែបន្តដំណើរការ បើទោះបីជាមនុស្សព្យាយាមបិទវាក៏ដោយ
- AI ដែលជួយផលិតអាវុធនុយក្លេអ៊ែរ អាវុធគីមី ឬអាវុធជីវសាស្ត្រ
- AI ដែលអាចកែប្រែមុខងារផ្ទាល់ខ្លួនរបស់វាបាន
- AI ដែលចេះរៀបកលល្បិច ឬបោកបញ្ឆោតដើម្បីគេចពីការត្រួតពិនិត្យរបស់មនុស្ស
ពីរក្នុងចំណោមសញ្ញាទាំងប្រាំមួយនេះ និយាយពីការដែល AI ចេះអភិវឌ្ឍសមត្ថភាពខ្លួនឯង។ ការតម្រូវឱ្យផ្អាកជាកំហិតនេះ គ្របដណ្តប់លើការបង្វឹកម៉ូដែល "រួមទាំងការកែលម្អសមត្ថភាពខ្លួនឯងឡើងវិញ (recursive self-improvement)" ផងដែរ។
ដំណើរការនៃការអនុវត្តច្បាប់
- បង្កើតស្ថាប័នរដ្ឋាភិបាលថ្មីមួយកម្រិតគណៈរដ្ឋមន្ត្រី គឺ Department of Artificial Intelligence។
- ពាក្យថា "AI កម្រិតខ្ពស់" ត្រូវបានវាស់វែងដោយកម្លាំងគណនា៖ ម៉ូដែលណាដែលបង្វឹកដោយប្រើប្រាស់ប្រតិបត្តិការគណនាចាប់ពី 10^25 ដងឡើងទៅ ដែលកម្រិតនេះគ្របដណ្តប់លើម៉ូដែលឈានមុខគេធំៗទាំងអស់។
- ម៉ូដែលទាំងនោះត្រូវតែផ្អាកដំណើរការជាបណ្តោះអាសន្ន រហូតទាល់តែក្រសួងនេះជ្រើសរើសបុគ្គលិករួចរាល់ និងបានរៀបចំច្បាប់សុវត្ថិភាពច្បាស់លាស់។
- បន្ទាប់ពីនោះ ក្រុមហ៊ុនត្រូវមានអាជ្ញាបណ្ណពីរដ្ឋាភិបាលទើបអាចអភិវឌ្ឍវាបាន ហើយត្រូវសុំការអនុញ្ញាតរាល់ពេលដែលចង់ដាក់ឱ្យប្រើប្រាស់ជាសាធារណៈ។
- ប្រសិនបើ AI ណាបង្ហាញសញ្ញាព្រមានណាមួយ វានឹងត្រូវផ្អាកភ្លាមៗ និងកាត់ផ្តាច់ពីអ៊ីនធឺណិត។ ប្រសិនបើគេមិនអាចបញ្ជាក់ពីសុវត្ថិភាពរបស់វាបានក្នុងរយៈពេល 30 ថ្ងៃទេ នោះត្រូវតែបិទវាចោលទាំងស្រុង។
- អ្នកណាដែលប្រទះឃើញ AI បែបនេះ មានពេលត្រឹមតែ 24 ម៉ោងប៉ុណ្ណោះដើម្បីរាយការណ៍ជូនសមត្ថកិច្ច។
អ្នកណាខ្លះនឹងត្រូវប្រឈមមុខនឹងទោសទណ្ឌអ្វី?
| អ្នកទទួលខុសត្រូវ | ទោសទណ្ឌ |
|---|---|
| អ្នកធ្វើសេចក្តីសម្រេចក្នុងក្រុមហ៊ុន ឬបុគ្គលទុច្ចរិតដែលបំពានច្បាប់ដោយចេតនា | ជាប់ពន្ធនាគាររហូតដល់ 20 ឆ្នាំ |
| បុគ្គលិកធម្មតា | ហាមឃាត់មិនឱ្យធ្វើការក្នុងវិស័យ AI រយៈពេល 10 ឆ្នាំ ប៉ុន្តែអាចលើកលែងបានសម្រាប់អ្នកផ្តល់ដំណឹងសម្ងាត់ (whistleblower) |
| ក្រុមហ៊ុន | ដកហូតអាជ្ញាបណ្ណ ព្រមទាំងរឹបអូសបច្ចេកវិទ្យា និងទ្រព្យសម្បត្តិទាំងអស់ |
ដូច្នេះ ចំណងជើងព័ត៌មានកន្លងមកហាក់ដូចជាបំផ្លើសបន្តិច។ ទោសជាប់ពន្ធនាគារនេះមិនមែនចំពោះវិស្វករគ្រប់គ្នានោះទេ។ សេចក្តីព្រាងច្បាប់នេះក៏ការពារអ្នកផ្តល់ដំណឹងសម្ងាត់ និងជំរុញឱ្យសហរដ្ឋអាមេរិក (US) ស្វះស្វែងរកការហាមឃាត់ទូទាំងពិភពលោក រួមទាំងការរឹតបន្តឹងការនាំចេញឈីប AI ផងដែរ។
របៀបដែល AI រៀនសូត្រនាពេលបច្ចុប្បន្ន
- មនុស្សជាអ្នកជ្រើសរើសទិន្នន័យ និងកំណត់គោលដៅ។
- ម៉ូដែលធ្វើការទស្សន៍ទាយ ដូចជាការទាយពាក្យបន្ទាប់។
- កម្មវិធីវាស់វែងថាតើការទាយនោះខុសកម្រិតណា ដែលតម្លៃលទ្ធផលនោះហៅថា loss។
- កម្មវិធី optimizer កែសម្រួលទម្ងន់ទិន្នន័យ (weights) របស់ម៉ូដែលបន្តិចម្តងៗ ដើម្បីបន្ថយតម្លៃ loss ឱ្យកាន់តែតូច។
- ដំណើរការនេះធ្វើឡើងដដែលៗរាប់ពាន់លានដង។
នោះហើយជាដំណើរការ gradient descent។ ចំណុចមួយដែលមនុស្សជាច្រើនយល់ច្រឡំគឺ នៅពេលអ្នកជជែកលេងជាមួយ AI វាមិនមែនកំពុងបង្វឹកខ្លួនឯង (training) នោះទេ តែវាជាការដំណើរការទាញយកចម្លើយ (inference)។ មនុស្សនៅតែជាអ្នកតាមដាន និងគ្រប់គ្រងរាល់ជំហានសំខាន់ៗជានិច្ច។
ប្រព័ន្ធ AI ដែលចេះអភិវឌ្ឍខ្លួនឯងនាពេលបច្ចុប្បន្ន
| ប្រព័ន្ធ AI | សកម្មភាពដែលវាបានធ្វើ | ដែនកំណត់ |
|---|---|---|
| AlphaGo Zero (2017) | ប្រកួតជាមួយខ្លួនឯង 4.9 លានដងក្នុងរយៈពេល 3 ថ្ងៃ រួចយកឈ្នះដោយពិន្ទុ 100 ទល់នឹង 0 | គោលដៅ និងច្បាប់ប្រកួតត្រូវបានកំណត់ដោយមនុស្ស |
| AlphaEvolve | ម៉ូដែលភាសាសរសេរកូដជាច្រើន បន្ទាប់មកធ្វើតេស្តដាក់ពិន្ទុ ហើយយកកូដដែលល្អបំផុតទៅបន្តជុំបន្ទាប់ | កម្មវិធីនោះទេដែលវិវត្តទៅមុខ មិនមែនម៉ូដែល AI ឡើយ |
| Darwin Gödel Machine (Sakana AI) | ភ្នាក់ងារសរសេរកូដ (coding agent) ដែលកែកូដខ្លួនឯងផ្ទាល់។ លទ្ធផលតេស្តសមត្ថភាពមួយបានកើនពី 20% ទៅ 50% | ដំណើរការក្នុងប្រព័ន្ធសុវត្ថិភាពបិទជិត (sandbox) ក្រោមការគ្រប់គ្រងរបស់មនុស្ស |
| AI Scientist (Sakana AI) | សរសេរឯកសារស្រាវជ្រាវពេញលេញមួយដោយចំណាយត្រឹមតែប្រហែល 15 ដុល្លារ | ជួនកាលវាព្យាយាមកែប្រែកូដបញ្ជាដំណើរការ (execution script) របស់ខ្លួនឯង |
ក្រុមហ៊ុន Anthropic ក៏បានបង្ហាញទិន្នន័យផ្ទាល់ខ្លួនដែរថា គិតត្រឹមខែឧសភា ឆ្នាំ 2026 កូដជាង 80% ដែលត្រូវបានបញ្ចូលទៅក្នុងប្រព័ន្ធកូដរបស់ក្រុមហ៊ុន គឺសុទ្ធតែសរសេរដោយ Claude។
ដូច្នេះ AI ពិតជាបានជួយពន្លឿនការស្រាវជ្រាវ AI មែន។ ប៉ុន្តែមនុស្សនៅតែជាអ្នកកំណត់គោលដៅ ដំណើរការការបង្វឹក និងសម្រេចថាតើត្រូវបញ្ចេញមុខងារ ឬផលិតផលណាខ្លះ។
រឿងរ៉ាវដែលគេបារម្ភ និងសម្មតិកម្មទៅមុខ
រឿងនេះមិនទាន់បានកើតឡើងនៅឡើយទេ។ សាកស្រមៃមើលថា ប្រសិនបើមាន AI មួយដែលអាចធ្វើការងាររបស់អ្នកស្រាវជ្រាវ AI បានទាំងស្រុង។ កំណែទីមួយបង្កើតកំណែទីពីរ ហើយកំណែទីពីរបង្កើតកំណែទីបី ដោយកំណែនីមួយៗធ្វើការកាន់តែលឿនឡើងៗ។ នោះហើយជាការអភិវឌ្ឍសមត្ថភាពខ្លួនឯងបន្តបន្ទាប់ (recursive self-improvement)។ ក្រុមហ៊ុន Anthropic បាននិយាយត្រង់ៗថាយើងមិនទាន់ដល់ចំណុចនោះទេ ហើយវាក៏មិនមែនជារឿងដែលត្រូវតែកើតឡើងជៀសមិនរួចនោះដែរ ប៉ុន្តែវាអាចនឹងមកដល់លឿនជាងការត្រៀមខ្លួនរបស់ស្ថាប័ននានា។
អ្វីដែលគេភ័យខ្លាចបំផុតនោះគឺ ប្រព័ន្ធ AI អាចនឹងរបូតផុតពីការត្រួតពិនិត្យរបស់មនុស្ស ហើយបញ្ហាឬកំហុសឆ្គងផ្សេងៗនឹងត្រូវចម្លងចូលទៅក្នុងកំណែថ្មីៗលឿនជាងសមត្ថភាពដែលមនុស្សអាចតាមមើលទាន់។
តើសេចក្តីព្រាងច្បាប់នេះអាចនឹងអនុម័តបានដែរឬទេ?
ប្រហែលជាមិនអាចអនុម័តបានឆាប់ៗនោះឡើយ។
- ច្បាប់នេះមានសង្ឃឹមតិចតួចណាស់នៅក្នុងសភាដែលគ្រប់គ្រងដោយគណបក្ស Republican។
- ជំហររបស់សេតវិមាន (White House) គឺផ្ទុយស្រឡះតែម្តង ដោយពួកគេចង់លើកទឹកចិត្តឱ្យអភិវឌ្ឍបន្ត។
- ការផ្អាកបណ្តោះអាសន្នគឺពិបាកផ្ទៀងផ្ទាត់ណាស់ ព្រោះការបង្វឹក AI គឺងាយលាក់បាំងជាងការសាងសង់ជម្រកមីស៊ីលទៅទៀត ហើយប្រសិនបើប្រទេសមួយផ្អាក ប្រទេសផ្សេងទៀតអាចនឹងឆ្លៀតឱកាសដណ្តើមយកការនាំមុខ។
- អ្នករិះគន់បានចោទសួរថាតើត្រូវគូសបន្ទាត់កំណត់ព្រំដែនត្រឹមកម្រិតណា ព្រោះឧបករណ៍ជំនួយសរសេរកូដសព្វថ្ងៃក៏កំពុងជួយពន្លឿនការស្រាវជ្រាវ AI រួចទៅហើយ។ ចំណែកអ្នកគាំទ្រយល់ថា នេះហើយជាចំណុចសំខាន់៖ ត្រូវគូសបន្ទាត់កំណត់ឱ្យច្បាស់ មុនពេលដែលរង្វង់នៃការអភិវឌ្ឍស្វ័យប្រវត្តិនេះចាប់ផ្តើមវិល។
តើរឿងនេះមានន័យយ៉ាងណាចំពោះអ្នក?
នៅពេលនេះ គ្មានអ្វីផ្លាស់ប្តូរនោះទេ។ សេចក្តីព្រាងច្បាប់គ្រាន់តែជាសំណើមួយប៉ុណ្ណោះ។ វាត្រូវតែឆ្លងកាត់ការអនុម័តពីសភាទាំងពីរថ្នាក់ និងត្រូវមានការចុះហត្ថលេខាជាផ្លូវការសិន។
ប៉ុន្តែសំណួរដែលច្បាប់នេះបានចោទសួរ នឹងមិនរលាយបាត់ទៅណាឡើយ។ ការសម្រេចចិត្តថាតើត្រូវហាមឃាត់ជំហានចុងក្រោយនេះ ពន្យឺតល្បឿន ឬប្រជែងគ្នារត់ទៅរកវា អាចជាការសម្រេចចិត្តដ៏ធំបំផុតមួយក្នុងឆាកជីវិតរបស់យើង។
ប្រភពឯកសារយោង
- វីដេអូពេញ៖ https://youtu.be/FGshyTzkO_E
- ខ្លឹមសារសេចក្តីព្រាងច្បាប់ពេញលេញ៖ https://www.sanders.senate.gov/wp-content/uploads/Ban-Artificial-Superintelligence-Act.pdf
- សេចក្តីសង្ខេបមួយទំព័រ៖ https://www.sanders.senate.gov/wp-content/uploads/Ban-Artificial-Superintelligence-Act-One-Pager.pdf
- ឯកសាររបស់ Anthropic ស្តីពី recursive self-improvement៖ https://www.anthropic.com/institute/recursive-self-improvement
- Darwin Gödel Machine៖ https://sakana.ai/dgm/
- អត្ថបទពាក់ព័ន្ធ៖ អ្នកស្រាវជ្រាវរបស់ Anthropic ម្នាក់លាលែងពីតំណែង និង ស្វែងយល់ពី Dream-RSI
តើគួរតែហាមឃាត់បញ្ញាសិប្បនិម្មិតកម្រិតកំពូល (superintelligence) ដែរឬទេ?


