ក្រុមហ៊ុន AI កំពូលៗ មានការគ្រប់គ្រងហានិភ័យ “មិនអាចទទួលយកបាន” នេះបើតាមការសិក្សា

(SeaPRwire) –   ក្រុមហ៊ុន AI ឈានមុខគេលើពិភពលោកមានកម្រិតនៃការគ្រប់គ្រងហានិភ័យ “មិនអាចទទួលយកបាន” និង “កង្វះការប្តេជ្ញាចិត្តយ៉ាងខ្លាំងចំពោះផ្នែកជាច្រើននៃសុវត្ថិភាព” នេះបើយោងតាមការសិក្សាថ្មីចំនួនពីរដែលបានចេញផ្សាយកាលពីថ្ងៃព្រហស្បតិ៍។

ហានិភ័យនៃ AI សូម្បីតែសព្វថ្ងៃនេះ—ដោយការសារភាពរបស់ក្រុមហ៊ុនកំពូលៗជាច្រើនខ្លួនឯង—អាចរួមបញ្ចូល AI ជួយតួអង្គអាក្រក់ធ្វើការវាយប្រហារតាមអ៊ីនធឺណិត ឬបង្កើតអាវុធជីវសាស្រ្ត។ គំរូ AI នាពេលអនាគត អ្នកវិទ្យាសាស្ត្រកំពូលៗព្រួយបារម្ភ អាចគេចផុតពីការគ្រប់គ្រងរបស់មនុស្សទាំងស្រុង។

ការសិក្សាទាំងនេះត្រូវបានធ្វើឡើងដោយអង្គការមិនរកប្រាក់ចំណេញ SaferAI និង FLI ។ ការសិក្សានីមួយៗគឺ , នៅក្នុងអ្វីដែលក្រុមសង្ឃឹមថានឹងក្លាយជាស៊េរីបន្តដែលជំរុញឱ្យក្រុមហ៊ុន AI កំពូលៗធ្វើឱ្យប្រសើរឡើងនូវការអនុវត្តរបស់ពួកគេ។

លោក Max Tegmark ប្រធាន FLI បាននិយាយថា “យើងចង់ធ្វើឱ្យវាងាយស្រួលសម្រាប់មនុស្សក្នុងការមើលឃើញថាតើនរណាមិនត្រឹមតែនិយាយនោះទេ ថែមទាំងអនុវត្តទៀតផង”។

SaferAI ធ្វើចំណាត់ថ្នាក់ពិធីសារនៃការគ្រប់គ្រងហានិភ័យរបស់ក្រុមហ៊ុន AI កំពូលៗ (ត្រូវបានគេស្គាល់ផងដែរថាជាគោលការណ៍មាត្រដ្ឋានទំនួលខុសត្រូវ) ដើម្បីផ្តល់ពិន្ទុដល់ក្រុមហ៊ុននីមួយៗលើវិធីសាស្រ្តរបស់ខ្លួនក្នុងការកំណត់ និងកាត់បន្ថយហានិភ័យ AI ។

គ្មានក្រុមហ៊ុន AI ណាមួយទទួលបានពិន្ទុប្រសើរជាង “ខ្សោយ” នៅក្នុងការវាយតម្លៃរបស់ SaferAI លើភាពចាស់ទុំនៃការគ្រប់គ្រងហានិភ័យរបស់ពួកគេនោះទេ។ អ្នករកពិន្ទុខ្ពស់ជាងគេគឺ Anthropic (35%), បន្ទាប់មក OpenAI (33%), Meta (22%) និង Google DeepMind (20%) ។ xAI របស់ Elon Musk រកបាន 18% ។

ក្រុមហ៊ុនចំនួនពីរគឺ Anthropic និង Google DeepMind ទទួលបានពិន្ទុទាបជាងពេលដែលការសិក្សាត្រូវបានធ្វើឡើងជាលើកដំបូងកាលពីខែតុលាឆ្នាំ 2024 ។ លទ្ធផលមានន័យថា OpenAI បានដណ្តើមយក Google ជាចំណាត់ថ្នាក់លេខ 2 នៅក្នុងចំណាត់ថ្នាក់របស់ SaferAI ។

លោក Siméon Campos ដែលជាស្ថាបនិក SaferAI បាននិយាយថា Google ទទួលបានពិន្ទុទាបប្រៀបធៀប ទោះបីជាបានធ្វើការស្រាវជ្រាវសុវត្ថិភាពល្អមួយចំនួនក៏ដោយ ពីព្រោះក្រុមហ៊ុនធ្វើការប្តេជ្ញាចិត្តតិចតួចនៅក្នុងគោលការណ៍របស់ខ្លួន។ ក្រុមហ៊ុនក៏បានចេញផ្សាយគំរូព្រំដែនមួយកាលពីដើមឆ្នាំនេះគឺ Gemini 2.5 ដោយមិនចែករំលែកព័ត៌មានសុវត្ថិភាព ដែលលោក Campos ហៅថា “បរាជ័យដ៏អាក្រក់” ។ អ្នកនាំពាក្យរបស់ Google DeepMind បានប្រាប់ TIME ថា៖ “យើងប្តេជ្ញាចិត្តក្នុងការអភិវឌ្ឍ AI ដោយសុវត្ថិភាព និងសុវត្ថិភាពដើម្បីផលប្រយោជន៍សង្គម។ វិធានការសុវត្ថិភាព AI រួមមានវិសាលគមទូលំទូលាយនៃការកាត់បន្ថយសក្តានុពល។ របាយការណ៍ថ្មីៗទាំងនេះមិនបានគិតគូរពីកិច្ចខិតខំប្រឹងប្រែងសុវត្ថិភាព AI ទាំងអស់របស់ Google DeepMind ឬស្តង់ដារឧស្សាហកម្មទាំងអស់នោះទេ។ វិធីសាស្រ្តដ៏ទូលំទូលាយរបស់យើងចំពោះសុវត្ថិភាព និងសន្តិសុខ AI គឺហួសពីអ្វីដែលបានចាប់យក។”

ពិន្ទុរបស់ Anthropic ក៏បានធ្លាក់ចុះចាប់តាំងពីការចេញផ្សាយរបស់ SaferAI កាលពីខែតុលា។ នេះគឺដោយសារតែការផ្លាស់ប្តូរដែលក្រុមហ៊ុនបានធ្វើចំពោះ ថ្ងៃមុនការចេញផ្សាយគំរូ Claude 4 ដែល Anthropic បានដកការប្តេជ្ញាចិត្តរបស់ខ្លួនក្នុងការដោះស្រាយការគំរាមកំហែងផ្ទៃក្នុងនៅពេលដែលខ្លួនបានចេញផ្សាយគំរូនៃកម្រិតនោះ។ លោក Campos និយាយថា “ដំណើរការនោះគឺអាក្រក់ណាស់” ។ Anthropic មិនបានឆ្លើយតបភ្លាមៗចំពោះសំណើសុំការអត្ថាធិប្បាយទេ។

អ្នកនិពន្ធនៃការសិក្សាក៏បាននិយាយផងដែរថា វិធីសាស្រ្តរបស់ខ្លួនបានក្លាយទៅជាលម្អិតបន្ថែមទៀតចាប់តាំងពីខែតុលាឆ្នាំមុន ដែលគណនីសម្រាប់ភាពខុសគ្នាមួយចំនួននៅក្នុងការដាក់ពិន្ទុ។

ក្រុមហ៊ុនដែលបានធ្វើឱ្យប្រសើរឡើងពិន្ទុរបស់ខ្លួនច្រើនជាងគេគឺ xAI ដែលរកបាន 18% បើប្រៀបធៀបទៅនឹង 0% កាលពីខែតុលា។ និង Meta ដែលរកបាន 22% បើប្រៀបធៀបទៅនឹងពិន្ទុមុនរបស់ខ្លួនគឺ 14% ។

ការសិក្សារបស់ FLI គឺទូលំទូលាយជាងនេះ—មិនត្រឹមតែមើលលើការអនុវត្តការគ្រប់គ្រងហានិភ័យប៉ុណ្ណោះទេ ប៉ុន្តែថែមទាំងវិធីសាស្រ្តរបស់ក្រុមហ៊ុនចំពោះគ្រោះថ្នាក់បច្ចុប្បន្ន សុវត្ថិភាពអត្ថិភាព អភិបាលកិច្ច និងការចែករំលែកព័ត៌មានផងដែរ។ ក្រុមអ្នកជំនាញឯករាជ្យចំនួនប្រាំមួយរូបបានផ្តល់ពិន្ទុដល់ក្រុមហ៊ុននីមួយៗដោយផ្អែកលើការពិនិត្យឡើងវិញនូវសម្ភារៈដែលមានជាសាធារណៈ ដូចជាគោលការណ៍ ឯកសារស្រាវជ្រាវ និងរបាយការណ៍ព័ត៌មាន រួមជាមួយនឹងទិន្នន័យមិនមែនជាសាធារណៈបន្ថែម ដែលក្រុមហ៊ុនត្រូវបានផ្តល់ឱកាសឱ្យផ្តល់។ Anthropic រកបានពិន្ទុខ្ពស់បំផុត (C បូក) ។ OpenAI រកបាន C ហើយ Google រកបាន C ដក។ (xAI និង Meta ទាំងពីររកបាន D ។)

ទោះជាយ៉ាងណាក៏ដោយ នៅក្នុងពិន្ទុរបស់ FLI សម្រាប់វិធីសាស្រ្តរបស់ក្រុមហ៊ុននីមួយៗចំពោះ “សុវត្ថិភាពអត្ថិភាព” ក្រុមហ៊ុននីមួយៗរកបាន D ឬទាបជាងនេះ។ លោក Tegmark និយាយថា “ពួកគេទាំងអស់កំពុងនិយាយថា៖ យើងចង់សាងសង់ម៉ាស៊ីនឆ្លាតវៃដែលលើសពីមនុស្សគ្រប់រូបតាមគ្រប់មធ្យោបាយ ហើយទោះជាយ៉ាងណាក៏ដោយ ពួកគេមិនមានផែនការសម្រាប់របៀបដែលពួកគេនឹងគ្រប់គ្រងរឿងនេះទេ”។

“`