英國今（2024）年二月更新《英國科學及技術框架》（The UK Science and Technology Framework）[1]，說明政府近期推動AI（Artificial Intelligence）技術發展的重要政策；並於同月公告《支持創新進路的AI規範－政府對民意諮詢的回應》（A Pro-innovation Approach to AI Regulation－Government Response to Consultation）[2]，針對民眾在AI技術應用上之疑慮與風險，提出政府的處理方式與立場。本文以上述兩份報告為中心，綜整英國政府整體在AI技術的推動現況、風險應對、民眾疑慮回應與近期規劃，一覽英國政府對AI關鍵技術發展之重要策略與作法。
一、推動現況
英國AI關鍵技術之推動現況，大致可以分成四個部分來談，包括AI技術研發方向、私部門推動策略，對發展AI技術所需之基礎設施和人才培育的支持，以及公部門為應用及因應AI技術風險的準備。
AI研發技術方向包括政府主要AI研發機構之重點領域，以及UKRI（UK Research and Innovation）的AI研究計畫補助重點。英國主要AI研發機構包括其AI資料科學研究機構ATI （Alan Turing Institute）、去（2023）年十一月甫成立的AISI（AI Safety Institute）。英國政府於《Spring Budget 2024》[3]中宣布，將於未來五年加倍ATI的研發投資至1億英鎊，而其中擴大投資的5千萬英鎊，將針對健康（health）、環境與永續（environment and sustainability）、以及防禦（defence）與安全（security）領域，進行研究。而以先進AI系統安全測試為主題成立之技術中心AISI，也已著手進行世界第一個針對前沿AI（frontier AI）模型釋出前、後之評估。
英國國內之主要AI研究計畫主要是由UKRI進行推動，目前以擴大國內及國際研究者之AI生態系為發展重點，主要做法包括成立AI Hub，提供UKRI Technology Mission Fund（TMF），專注英國本土研究者之BRAID（Bridging Responsible AI Divides）[4]，並成立國際AI研究聯盟UKRAI UK（UKRI Responsible AI）[5]。UKRI投入8千萬英鎊，設立9個AI Hub[6]，其中3個以AI技術基礎之數學及運算研究為主，另外6個則探究AI於科學、工程與真實世界資料，以加速AI創新及關鍵領域的應用。TMF則投入1億1千萬英鎊，推動負責任及可信賴AI用於複雜醫療環境與減少高排放領域的溫室氣體，以及提高採用AI技術比例較少領域之生產力。BRAID以英國國內研究者為主，尤以完整納入藝術與人文領域研究者於負責任AI生態系為主；RAI UK則是連結國內與國際的研究機構，並專注在生態系創造、跨領域研究創新計畫、技巧提升計畫與公共政策參與等四大領域。
在私部門推動上，則把重心放在鼓勵企業採用AI技術為主，包括於AIOF（AI Opportunity Forum）[7]、BridgeAI計畫與AI技能提升基金（upskilling fund）。基於英國僅有約一成的企業採用或準備採用AI技術，英國政府於今年1月底為推廣私部門之AI應用，成立AIOF，透過英國DSIT（Department of Science, Innovation and Technology）部長及首相財務顧問共同主導，並邀請Google、Microsoft等AI大型企業參與，探討英國國內機構之AI文化與才能。同時，透過BridgeAI計畫[8]，補助並鼓勵具高成長潛能之領域，包括農業與食物處理產業、建築業、創意產業以及運輸、物流與倉儲產業等領域，採用AI技術；BridgeAI也同時發布《AI Skills for Business Competency Framework》並徵求意見，希望幫助企業了解在AI技術應用上，企業所需具備的人才核心技能[9]。另外，也提供740萬英鎊的AI技能提升經費，鼓勵與補助私部門培養AI技能人才。
而在AI技術研發所需之基礎項目，包括基礎設備及人才培育，英國提供AIRR（AI Research Resource）計畫，包括去年底宣布投入15億英鎊於Bristol的Isambard-AI，以及設立於Cambridge的Dawn之超級電腦，將用以支持英國研究者與創新企業，提供其於AI研發上所必須具備但極為昂貴的算力技術。而人才培育與獎項部分，則投入810萬英鎊獎學金補助，增進學生在資料科學及AI領域的多元性；同時透過12個UKRI 中心，提供1億1700萬英鎊做為博士生訓練補助，訓練新一代的AI研究者；獎項則為解決重大公共利益議題的創新者，每年提供1百萬英鎊的Manchester Prize獎項。
公部門推動重點則包括為公部門及相關服務納入AI技術做準備，同時提出因應AI風險之相關措施。英國CO（Cabinet Office）透過成立i.AI專家小組，幫助跨部會改善公共服務、提升政府機關AI能力並提高政府人員的AI技能。而除了今年1月公告之《Generative AI framework for HM Government》[10]，做為政府機關以生成式AI提供市民服務及機構應用的指引外，也透過《支持創新進路的AI規範－政府對民意諮詢的回應》，針對民眾關切的AI技術所造成之風險問題，提出政府的處理方式及因應措施。下一部分，本文將對於英國政府在AI風險的因應措施，進行說明。
二、風險應對
儘管認為AI技術最終仍須以跨部會的強制性規範，進行監管，英國政府現階段對於AI應用風險的治理，主要採特定脈絡（context-specific）之方式，基於AI的兩項特性，加以規範；而規範的基準是以達成安全與負責任之AI創新的五個原則，做為AI技術在設計、發展及應用等整個生命週期之要求，提供各部會依其既有之職權範圍，加以調整；同時，透過DSIT設立CAIRF（Central AI Risk Function）之職權，提供跨部會AI應用治理的協調，以及可能存有之法律漏洞的填補。英國政府期望透過此一具有彈性之架構，有助於應對發展快速的AI技術與新興風險。
英國採特定脈絡方式之規範，意指AI是於特定應用脈絡下，因其風險過高而須加以規範，並非空白規範式的普遍禁止或限制；並以五個AI技術在其生命週期均應達到的安全、防護及穩健（safety, security, and robustness）、適當之透明與可解釋（appropriate transparency and explainability）、公平（fairness）、問責與治理（accountability and governance）、以及可質疑與補救（contestability and redress），做為跨部會因應AI應用風險的基礎。而AI於特定應用下須受到規範的理由，則在於AI所具有的可適應性（adaptivity）與自主性（autonomy），可適應性使其難以解釋AI系統結果的意圖或邏輯，而AI的自主性則使其難以針對該AI系統結果而究責，也因此當AI應用造成傷害時，須加以規範。
而AI可能產生的風險，DSIT區分為社會傷害（societal harms）、誤用風險（misuse risks）以及自主風險（autonomy risks）等三類，並依照各部會現有職權之分工，協助預防或降低AI風險的衝擊。首先，英國勞工須面對AI可能造成的包括職場監視、招募歧視、勞力被取代和勞工能力不足等議題，DSIT將針對工作聘僱提供AI應用指引，透過ATI及Innovate UK釐清從AI市民（AI citizens）變成AI專家（AI professional）所需的核心技能，並透過DfE（Department for Education）提供AI對英國工作影響之初步評估，以及AI教育訓練管道。其次，針對創意產業及媒體產業所憂慮的保護智慧財產議題，以及AI發展者所要求的大範圍、高品質資料庫的易於存取，已透過IPO（Intellectual Property Office）進行兩邊的溝通協調，並將由DSIT與DCMS（Department for Culture, Media and Sport）共同主導，探究有助於輸入與輸出資料之標記以及智財歸屬透明化的機制。
第三，AI結果的偏差（bias）將可能對具有特定人口統計學特徵的對象，造成信用申請或工作聘僱上之不利結果，此議題目前由EHRC（Equality and Human Rights Commission）與ICO（Information Commissioner’s Office）透過挑戰賽徵求解決方案外，也藉由ICO 與NPCC（National Police Chief’s Council），分別提出機構AI責任指引以及警方使用AI技術之協議（Covenant for Using Artificial Intelligence in Policing），保護英國市民的基本權利。第四，為協助機構採用AI技術與創新，將透過英國DPDI（Data Protection and Digital Information）草案，明確規範個人在其權利受到保護並具有相關保護機制的前提下，擴大對個人造成重大影響之自動化決策的合法基礎。第五，為了確保AI產生的線上內容是可信賴與安全的，DSIT提出以浮水印技術標記影像保護著作權，以及以AI產出資料庫（AI output database）[11]來識別AI生成或操弄之內容，並會密切與新聞傳播業者合作，進一步探究AI資訊對整體資訊生態系的影響。
第六，AI技術市場可分為基礎模型（foundation models）和AI產品的新穎使用，為確保AI技術市場不被少數企業維持，CMA（Competition and Markets Authority）已初步針對基礎模型市場進行初步評估，後續也會探究與AI市場相關、及受AI發展所影響之數位市場的競爭議題。第七，由CO負責主導英國公部門之AI技術以提升效率與確保公部門AI技術應用的品質，方式包括前述之核心AI專家小組幫助跨部門採用AI技術、改善數位基礎設施與資料存取，同時建立標準，如以ATRS（Algorithmic Transparency Recording Standard）要求公部門主動向民眾公開其於決策過程中，為何以及如何使用AI技術；同時，政府也預計透過建立企業販售AI產品及服務的優良標準基礎AIME（AI Management Essentials）方案，透過公部門之採購能力，促成企業負責任與安全之AI創新。
第八，AI具有大規模散佈假訊息、更有效針對特定族群、並讓AI產生內容更加難以偵測的能力，為保護民主使選舉不受AI誤用之干擾，英國DDT（Defending Democracy Taskforce）正與國內外夥伴合作，要求如選舉廣告標記刊登者資料、增加線上服務提供者責任、並找出有意操弄英國資訊環境之他國行為者；同時Ofcom（Office of Communication）則提高大眾對假訊息的意識，利用科技工具認證真實訊息、快速回報與移除假訊息。第九，AI將可使既有風險加劇、範圍擴大、速度加快，助長不同領域之犯罪行為，並造成警方執法、機構信任與證據程序等系統性風險；英國政府正審視並確保既有規範足以涵蓋AI促成之犯罪，將合成DNA（synthetic DNA）之篩選作為今年度的優先事項，並以NCSC（National Cyber Security Centre）的安全AI系統發展指引為基礎，建立安全AI模型及AI網路安全行為準則；而將於四月生效之PSTI（Product Security and Telecommunications Infrastructure）則要求製造商對消費者連網產品（connectable products），不論軟體及硬體，均須符合安全納入設計（safety by design）原則之最低安全標準，才得以販售。
最後，儘管先進AI系統的自主能力仍有不同意見，但隨著AI技術的快速進展，已有專家學者憂慮人類將可能更加依賴AI系統做出重要決策，同時AI代理人系統也將有能力主動減少人類控制並增加自身影響。而作為廣泛應用之基礎AI技術，則需要有新的措施來處理此類新興風險。
三、回應民眾疑慮
民眾為AI生態系中最為多數的利害關係人，英國去年3月公告了《支持創新進路的AI規範》白皮書，並同時徵詢英國民眾意見，以了解大眾對於政府處理AI技術相關風險議題之看法。以下就十項徵詢主旨，重點摘要民眾意見以及政府回應。
表1 英國現階段AI風險治理模式的民眾意見與政府回應
資料來源：DSIT，A Pro-innovation Approach to AI Regulation－Government Response to Consultation，作者整理。
四、近程規劃
英國政府對AI技術與治理的近期重點在於高能通用AI。DSIT將風險過高的AI系統，區分為高能通用AI（high capable general-purpose AI）、[14]高能狹隘（high capable narrow AI）AI與AI代理人（agentic AI or AI agents）三種；相比於前兩者，AI代理人雖尚未出現，但已被專家預期不遠的將來就會成為現實。高能通用AI系統是指可以呈現多樣任務，其能相等或超越當代技術之先進系統，有些甚至在多樣任務中呈現出超人般的表現；高能狹隘AI系統是指可以呈現任務的特定範圍，通常在特定領域中可以相比或超越現有之先進系統，並通常在其特定領域中可呈現出超人般的能力；而AI代理人是指AI技術的新興子集（subsets），有能力在長時間中以多步驟的方式完成任務，其可使用如編碼環境、網路或高能狹義AI等工具，幫助其完成任務。三者間，又以高能通用AI風險最高而被英國視為AI技術之測試重點，而建立高能通用AI之基礎模型的發展者，則成為高能通用AI系統風險責任的問責對象。
以高能通用AI作為當前治理重點的原因在於，單一高能系統若出現任何的瑕疵或錯誤，基於其可適用於多種領域，將會同時造成多種領域的傷害；DSIT舉例說明，若單一高能系統的結果具有偏差（bias），且其可同時使用於醫療領域與工作領域，由於未能減輕其偏差的影響，將同時導致醫療領域及工作領域中的個人，受到歧視的後果。而此類高能通用AI的高度風險，同時，由於高能通用AI非屬於特定的單一領域，再加上也難以將單一領域的規範套用在其他領域中，而依據英國政府評估，以現有之特定脈絡、AI五原則與既有規範，將無法有效減輕此類高能通用AI的高度風險。再者，現有規範主要是針對應用AI技術者、或是AI技術的販售者進行規範，但考量應用或使用者未必有足以識別、評估或減輕相關風險的能力，因此，對此類高能通用AI，若以其基礎模型之發展者[15]做為問責對象，更有助於減輕此系統之風險，而相關措施包括資料或系統之透明性要求，風險管理、問責或企業治理責任，以及相關緩解潛在風險的行動等等。
而針對高能通用AI的相關行動上，首先將針對開放高能AI系統，探究其應用前（pre-deployment）之能力測試及風險評估，包括其釋出場域、可說明該模型的相關項目等，以及於必要時，由機構在釋出前改變風險預防的步驟；其次，透過AISI發展社會技術基礎設施（sociotechnical infrastructure），了解先進AI系統的風險與協助治理；同時，向廣泛的利害關係人徵詢有關高能AI系統之介入方式，並於今年底公告相關之研究進展，並針對CAIRF的初版AI Risk Register，向技術專家提出徵詢。最後，也將透過預計在韓國與法國舉行之AI Safety Summit，並與各國針對前沿AI之風險與AI for Good等議題，進行研究。
另外在公部門的近期重點，英國近期重點除了增加公部門AI技能外，又以AI技術應用的導入為重點，包括防詐與協助警方執法。英國政府預計由CO提出AI 採用計畫，擴大優先領域之自動化與AI應用，幫助公部門與市民服務；並透過公部門之負責任AI應用，促進創新，並提供更好的公共服務，如資料分析技術。AI技術應用導入包括擴大PSFA（Public Sector Fraud Authority），藉由AI幫助公部門偵測、阻止與抓到詐欺者，解決詐騙問題；並且透過成立CPP（Centre for Police Productivity）幫助警方利用資料與AI應用，針對第一線人員使用即時臉部識別、自動化與無人機等技術之測試與推出。
協助私部門的主要行動上，包括提供AI & Digital Hub監理沙盒、鼓勵企業發展安全與負責任AI技術政策等。英國預計透過AIOF促進企業AI技術的採用與提高生產力，並鼓勵跨領域之AI技術採用與支持產業創新；除將對AI Assurance提出說明，也預備公布《AI Skills for Business Competency Framework》幫助企業；而預計提供給研究者及創新企業發展AI技術之超級電腦，也會於今年規劃服務與管理辦法。
五、結論
資料來源：作者繪製。
圖1 英國AI關鍵技術之推動現況與重點彙整
將AI視為五大關鍵技術之一，英國以安全與負責任AI作為主軸，依照不同領域的現況，提供相應的策略與辦法。公部門而言，了解到各部門在處理AI議題上的能力差異，透過相關經費補助並由中央技術支援，協助提升；並透過公共服務及機構，導入AI於詐騙預防和第一線的警方執法應用，且進一步希望透過公部門的採購力量，促成企業負責任與安全之AI創新。私部門則是以促進企業採用AI技術為目標，鼓勵創意產業、運輸物流產業等高成長潛能企業採用AI技術，並透過補助員工AI技能提升，確保企業有足夠的能力應用AI。而在學研界的當前重點，則以擴大英國國內與國際AI研究者的生態系為重點。
在技術發展上，以ATI、AISI為主要研發與先進AI技術測試的主要機構，並擴大投資對於健康、環境與永續、防禦與安全等領域的研發應用。技術治理部分，以現有方式未能降低風險的高能通用AI，作為研究目標，並提出相關風險降低機制與辦法。而在發展AI技術所必須具備的算力上，也透過基礎設施的方式，作為研究者與企業的AI研究輔助。
綜上所述，英國政府AI關鍵技術的推動現況與近程目標，以積極擴大AI導入應用以及AI研發所需的基本要素為主，即，人才與基礎設施。研究端的高階AI人才，著重於擴大人才庫內容與AI研究者生態系，應用端的AI人才，著重於AI核心技能的提升。而前沿AI或高能通用AI的尖端技術研究，則由政府主導，以作為AI治理的基準，並透過政府力量，提供超級電腦之算力，作為研究者與創新企業在AI研發上的支持。