AI 常見問題

所有機構，包括行政部門、高等教育和獨立機構，應參考 CAM 和其他 VITA 聯絡人名單 以獲取協助。

如有其他問題，請傳送至：vccc@vita.virginia.gov。 

如有關於特定 AI 技術的技術問題，請聯絡您指定的 EA。

根據 COV 人工智慧利用政策標準，所有行政部門機構（該術語在 EO 30 中定義）應註冊其內部和外部 AI 系統的使用，便於監督和核准，以確保這些系統的可信、安全和可靠使用。

人工智慧註冊與核准是一個多步驟流程，需要在 Archer 中註冊，並且需要 VITA、您的機構負責人和秘書（僅限外部 AI）在 Planview 中核准。如果您對如何在 Archer 中註冊您的 AI 技術有任何疑問，請聯絡您指定的 EA。如果您對 Planview 有任何疑問，請聯絡您負責的 ITIMD 分析師。

儘管 EO 30 中沒有針對 AI 現有用途的豁免，但並非所有用途都必須在登錄檔中記錄。如有疑問，請詢問您指定的 EA。

• 如果 AI 解決方案符合以下三個條件，則不需要註冊：

• 內部朝向
• 不使用個人數據
• 不包含在生產系統中（非生產系統的例子是沙盒，開發和測試系統僅使用合成或公開可用的數據）

• 如果 AI 解決方案符合下列任何條件，則需要註冊：

• 外面
• 使用人員資料
• 用於生產系統中
• 支援機構的關鍵任務或業務重要流程
• 包括 SEC-530 資訊安全標準中定義的敏感資料
• 需要COV Ramp審查以評估雲端服務

任何 AI 的使用，包括涉及免費和廣泛使用的產品，必須按照標準中概述的流程獲得批准。在未經官方核准的情況下，任何本州機構官員不得實施任何 AI 產品，包括將免費產品下載到本州 IT 設備或以其他方式將這些產品用於公務。

正如 EO 30 和 AI 標準所規定，核准流程旨在確保本邦機構以保護公民資料、防止偏見應用，並從業務角度合理的方式使用 AI。免費提供的產品與機構購買的 AI 產品一樣，都存在使用不當的風險。例如，最近的新聞報導指出，某些免費的 AI 產品有時會產生偏頗的結果，可能與 EO 30 所設定的標準相抵觸。

AI 政策和標準（包括 AI 註冊表）不適用於： 

• 用於國防或 COV 安全系統的 AI（例如：網路安全、暖通空調或 SCADA 系統）
• 嵌入常見商業產品中的 AI（例如：iWatch、iPhone、Adobe Photoshop 等商業桌面軟體，或聯邦不擁有軟體應用程式和所使用的資料的託管軟體即服務應用程式）
• 公立高等教育機構的 AI 研發（research and development, R&D）活動或教學計畫 

公共高等教育機構的人工智慧研發 (R & D) 活動或教學計劃不受 AI 政策和標準的限制，不需要在 AI 註冊處管理。例如：

• AI 作為研究計劃的一部分使用，其中 AI 可能協助人類主體執行任務
• 人工智慧輔助知識體系的研究
• AI 輔助研究數據分析
• AI 方法、算法與技術的研究
• 在課堂中使用人工智能，學生在作業中使用生成人工智能
• 教師評估和評估學生作業的課堂中使用的 AI

VITA 建議將人工智慧用於研究目的時，應由機構的機構審查委員會 (Institutional Review Board, IRB) 計畫進行研究監督，以確保人類受試者受到合乎道德、負責任的對待，並採取保護措施以確保受試者的福利和隱私（包括受試者的數據）。

VITA 建議，對於 K-12 機構，教學計畫中 AI 的使用應由維吉尼亞州教育部管理，而對於高等教育機構，則應由州高等教育委員會管理。

雖然公立高等教育機構的 AI 研發 (R & D) 活動或教學計劃不受 AI 政策和標準豁免，但涉及聯邦數據（包括學生和財務數據）的機構行政活動不獲豁免。例如：

• 在學生入學過程中使用的 AI
• 用於提供獎學金、助學金及其他形式財務援助的 AI
• 用於招募和選擇人員以及管理員工績效的 AI
• AI 用於管理機構業務功能，包括金融，採購，房地產，設施和信息技術流程
• AI 用於訪問敏感機構數據，包括由 HIPAA，FERPA 和國稅局監管的數據

COV 坡道和 AI 註冊和批准程序滿足相關但獨立的需求。

• AI 註冊和核准解決利用特定 AI 技術用於特定用途的意圖，並證明符合使用政策所提出的擔憂
• COV Ramp 確立了供應商的運營可行性以及本邦與其開展業務的能力

此外，提交至 COV Ramp 會導致向該機構收取費用。首先提交 AI 註冊和核准，可以避免在 VITA 或秘書處拒絕建議用途時而產生不必要的費用。 

AI 登錄檔的目的在於確保 AI 的使用完全透明。這是根據 COV 人工智慧使用政策標準（第 IV 節，強制免責聲明），該標準確定了要遵守的幾個準則。

AI 登錄檔受資訊自由法（Fredom of Information Act, FOIA）的約束。然而，已有的網路安全豁免將在適當時/情況下適用。請參閱 Va. 法規 § 2.2-3705.2（2）& (14)。FOIA 的一般條款考慮到某些資訊可能需要從資料庫中刪除和/或摘錄的情況。例如，參見 Va. 法規 §§ 2.2-3704(G) 及 2.2-3704.01.

如果機構正在註冊處輸入其認為敏感/機密的資料，機構應清楚識別該等資料，以便在日後檢討應公開披露哪些資料。

COV 人工智慧技術藍圖的目的是識別已經審查過的 AI 解決方案以供使用，以及機構可能希望調查的領域。如果某個特定的 AI 解決方案未列在路線圖上，則機構可以將該解決方案提交至 AI 註冊和監督核准流程。

所有建議的 AI 技術用途都需要根據上述指引考慮註冊，無論它們是否出現在 AI 技術藍圖上。

生成式 AI 工具的用途

• 面向內部
• 不制定決策或政策
• 請勿使用本邦資料或人員資料
• 不用於追求核心機構業務流程
• 未納入生產系統

不需要 AI 註冊。

在任何 AI 解決方案中利用人員數據的機構必須能夠描述該數據的使用和保護方式。

• 詳細說明將包含的特定數據元素，其使用的理由以及將產生內容的價值聲明
• 說明如何保護資料集，並識別可存取資料的個人或角色
• 解釋 AI 演算法在資料集上的運作以及如何產生輸出
• 確定如何適當匿名化任何輸出

聯邦數據 不得用於 AI 模型的開發及/或訓練。

當公民攜帶 AI 錄音機參加公開或私人會議時，只要不造成干擾，他們就被允許錄音。維吉尼亞是單方同意管轄區 (Va. 法規第 19.2-62 條，這表示只要對話中的一方同意錄音，錄製對話就不違法。此外，FOIA 或其他法律可能賦予記錄向公眾開放的會議的權利。如果您對這些問題有疑問，請諮詢您的法律顧問。

您應該預期整個 IT 領域的產品將以某種形式整合 AI 功能，這可能包括您機構目前使用的軟體解決方案。

• 機構應注意其產品組合中的產品變化，以引入 AI 元件或功能
• 代理機構應謹慎對待供應商聲稱誇大或誤導產品或服務使用 AI 來吸引客戶的說法，這種做法被稱為 AI 洗白

關於嵌入通用商業產品中的 AI，我們對註冊該技術的興趣應該專注於 AI 是否是 a）對輸入數據進行更改，還是 b）做出輸出決策。

只有在產品中存在 AI 的存在就不足以進行註冊；我們只有在使用 AI 元件來生產最終產品時，才對註冊感興趣。 一個例子可以是 Archer，它具有 AI 模塊，但 COV 不使用它，並且最終用戶無法單獨調用它。

任何 COV 開發的 AI 解決方案都必須能夠證明其使用相關資料集的權限，包括來自公開來源的資料集，並且必須能夠列舉這些來源以解釋該解決方案的運作方式。所有使用於 AI 解決方案的資料集必須記錄在 COV 企業架構工具中。請諮詢您的法律顧問或檢察總長辦公室，關於智慧財產權問題或其他使用許可要求。

用於生成代碼的 AI 必須對生產內容的實施進行人工監督。 人類必須在插入分支前檢查產生的產品，並且必須在生產發布之前進行測試解決方案。