ZeroBiometrics បង្កើត ZeroSentinel ដើម្បីនាំយកការទទួលខុសត្រូវមនុស្សមកក្នុងប្រព័ន្ធអ័ិនធឺណេតជាតិ

(SeaPRwire) –   សាន់ហ្វ្រាន់ស៊ីស្កូ (SAN FRANCISCO), ថ្ងៃទី ១៨ ខែមីនា ឆ្នាំ ២០២៦ — ថ្ងៃនេះ ZeroBiometrics កំពុងប្រកាសអំពី ZeroSentinel ដែលជាឈុតផលិតផលដែលចងភ្ជាប់មនុស្ស ភ្នាក់ងារ AI និងការអនុញ្ញាតដែលត្រូវបានផ្ទេរសិទ្ធិដោយមនុស្សតាមរយៈគ្រីបតូក្រាហ្វិក (cryptographically)។

ZeroSentinel ប្រើប្រាស់ឧបករណ៍ស្តង់ដារឧស្សាហកម្មដើម្បីភ្ជាប់រាល់សកម្មភាព AI ដែលមានផលវិបាកទៅនឹងអ្នកសម្រេចចិត្តជាមនុស្សដែលត្រូវបានផ្ទៀងផ្ទាត់ និងបញ្ជាក់អត្តសញ្ញាណ ជាមួយនឹងលទ្ធភាពតាមដានពេញលេញ ការអនុលោមតាមគោលនយោបាយសហគ្រាស និងភស្តុតាងនៃការមិនអាចបដិសេធបាន (non-repudiation) ដែលត្រូវបានប្រមូលនៅគ្រប់ជំហាន។ ZeroSentinel ផ្តល់នូវប្លង់ទំនាក់ទំនង និងការគ្រប់គ្រងដែលធន់នឹងការលួចបន្លំ ដោយផ្អែកលើ PKI ស្តង់ដារឧស្សាហកម្ម ដែលពិពណ៌នាអំពីវិសាលភាពច្បាស់លាស់ និងរយៈពេលនៃសកម្មភាព និងការសម្រេចចិត្តរបស់ AI ដែលអនុញ្ញាតដោយមនុស្ស។ ហើយការដកហូតវិញ្ញាបនបត្រដែលចេញដោយ AI ដើរតួជាកុងតាក់បិទបន្ទាន់ (kill switch)។

ប្រសិនបើ AI មិនត្រូវបានគ្រប់គ្រងទេ នោះ Skynet នឹងឈ្នះរួចទៅហើយ

ក្នុងឆ្នាំ ១៩៨៤ លោក James Cameron បានណែនាំពិភពលោកឱ្យស្គាល់ Skynet នៅក្នុងខ្សែភាពយន្ត The Terminator — ដែលជា AI បែបប្រឌិតដែលបានដឹងខ្លួនឯង សន្និដ្ឋានថាមមនុស្សគឺជាការគំរាមកំហែង និងបានធ្វើសកម្មភាពដោយស្វ័យប្រវត្តិដើម្បីកម្ចាត់ពួកគេ។ គ្មានមនុស្សណាអនុញ្ញាតឱ្យវាទេ។ គ្មានមនុស្សណាអាចបញ្ឈប់វាបានទេ។ ផលវិបាកគឺមិនអាចកែប្រែបានទេ។ យើងបានសើច។ យើងបានមើល។ យើងបានទិញពោតលីង។ កាលពីមុន យើងបានចាត់ទុក Skynet ថាជាវិទ្យាសាស្ត្រប្រឌិត ប៉ុន្តែមេរៀនពិតប្រាកដរបស់វាគឺមិនមែនអំពីមនុស្សយន្តឃាតករនោះទេ – វាគឺអំពីអ្វីដែលកើតឡើងនៅពេលដែលមនុស្សលែងទទួលខុសត្រូវចំពោះអ្វីដែល AI ធ្វើ។

បួនទសវត្សរ៍ក្រោយមក សំណួរនោះលែងជាការសន្មតទៀតហើយ។ ប្រព័ន្ធ AI កំពុងធ្វើការសម្រេចចិត្តដោយស្វ័យប្រវត្តិរួចទៅហើយនៅទូទាំងវេទិកាធនធានមនុស្ស (HR) ប្រព័ន្ធហិរញ្ញវត្ថុ លំហូរការងារច្បាប់ និងហេដ្ឋារចនាសម្ព័ន្ធប្រតិបត្តិការ។ បញ្ហានៅពេលនេះ មិនមែនជាថាតើ AI អាចធ្វើសកម្មភាពដោយគ្មានការអនុញ្ញាតពីមនុស្សបានឬអត់នោះទេ — គឺវាអាចធ្វើបាន។ សំណួរពិតប្រាកដគឺថា តើមាននរណាម្នាក់ទទួលខុសត្រូវដែរឬទេនៅពេលវាធ្វើបែបនោះ។ នៅក្នុងសហគ្រាសភាគច្រើននាពេលបច្ចុប្បន្ន ចម្លើយគឺទេ (គ្មានទេ)។

ការប្រកួតប្រជែង AI របស់សហគ្រាសក្នុងឆ្នាំ ២០២៥-២០២៦ កាន់តែមានលក្ខណៈស្រដៀងទៅនឹងរឿងដើមកំណើតរបស់ Skynet — មិនមែនក្នុងលក្ខណៈរំជើបរំជួលនោះទេ ប៉ុន្តែក្នុងលក្ខណៈស្ងប់ស្ងាត់ និងជាប្រព័ន្ធ។ អង្គភាពនានាកំពុងដាក់ឱ្យប្រើប្រាស់ AI លឿនជាងការគ្រប់គ្រងវាទៅទៀត។ គម្លាតដែលកាន់តែរីកធំឡើងរវាងការដាក់ឱ្យប្រើប្រាស់ និងការទទួលខុសត្រូវ គឺជាកន្លែងដែលហានិភ័យពិតប្រាកដស្ថិតនៅ។

ការការពារខ្លួនដោយយកលេសថា “ម៉ូដែលជាអ្នកធ្វើ” នឹងមិនអាចយកជាការបានទេ

និយតករកំពុងបិទគម្លាតនោះ។ ច្បាប់ស្តីពីបញ្ញាសិប្បនិម្មិតរបស់សហភាពអឺរ៉ុប (European Union Artificial Intelligence Act) ឥឡូវនេះតម្រូវឱ្យមានការទទួលខុសត្រូវលើការប្រើប្រាស់ទិន្នន័យ ឥរិយាបថម៉ូដែល និងការត្រួតពិនិត្យដោយមនុស្ស ជាមួយនឹងការពិន័យរហូតដល់ ៣៥ លានអឺរ៉ូ។ ក្របខ័ណ្ឌគ្រប់គ្រងហានិភ័យ AI របស់ NIST និងបទបញ្ជាប្រតិបត្តិរបស់សហរដ្ឋអាមេរិកនាពេលថ្មីៗនេះ បានពង្រឹងគោលការណ៍ដូចគ្នា៖ ប្រសិនបើ AI ធ្វើសកម្មភាពនៅក្នុងសហគ្រាសរបស់អ្នក មនុស្សម្នាក់ត្រូវតែទទួលខុសត្រូវ។

កុងតាក់បិទបន្ទាន់ មិនមែនជាអភិបាលកិច្ចទេ

សហគ្រាសជារឿយៗនិយាយអំពី “កុងតាក់បិទ AI បន្ទាន់” (AI kill switches)។ ប៉ុន្តែកុងតាក់បិទបន្ទាន់តែមួយមុខ មិនមែនជាអភិបាលកិច្ចនោះទេ។ អភិបាលកិច្ចពិតប្រាកដតម្រូវឱ្យរាល់សកម្មភាព AI ដែលមានផលវិបាក ត្រូវតែភ្ជាប់ទៅនឹងសិទ្ធិអំណាចរបស់មនុស្សដែលបានបញ្ជាក់អត្តសញ្ញាណ មុនពេលវាអនុវត្ត មិនមែនស៊ើបអង្កេតបន្ទាប់ពីមានការបរាជ័យនោះទេ។

នៅក្នុងរឿង The Terminator មនុស្សជាតិត្រូវបញ្ជូននរណាម្នាក់ត្រឡប់ទៅអតីតកាលវិញ ដើម្បីដណ្តើមការគ្រប់គ្រងមកវិញ។ សហគ្រាសមិនមានភាពងាយស្រួលបែបនោះទេ។ ពេលវេលាដើម្បីបង្កើតការគ្រប់គ្រងគឺឥឡូវនេះ — មុនពេល agentic AI ក្លាយជាផ្នែកដែលចាក់ឫសយ៉ាងជ្រៅនៅក្នុងលំហូរការងារសំខាន់ៗ រហូតដល់ការជ្រៀតជ្រែកមានន័យថាជាការបិទអាជីវកម្មទាំងមូល។

Skynet របស់លោក Cameron គឺជាការព្រមានដែលបន្លំខ្លួនជាការកម្សាន្ត។ ការព្រមានពិតប្រាកដគឺស្ងប់ស្ងាត់ជាងនេះ — ហើយកំពុងដំណើរការរួចទៅហើយនៅក្នុងសហគ្រាសទំនើបៗ។ សំណួរមិនមែនជាថាតើ AI របស់អ្នកនឹងធ្វើសកម្មភាពក្នុងនាមអ្នកឬអត់នោះទេ។ សំណួរគឺថា តើវានឹងធ្វើសកម្មភាពក្នុងក្របខ័ណ្ឌសិទ្ធិអំណាចដែលអ្នកបានកំណត់ដែរឬទេ — ZeroSentinel ធានាថាវានឹងធ្វើបែបនោះ។

ទំនាក់ទំនង
alfred.chan@zerobiometrics.ai
david.burnett@zerobiometrics.ai