關於大型語言模型人工智慧的六大風險
副研究員鄧翔靖 (2024/09/04) 《永續學院編輯室》
最近參加了一場關於「數位轉型」的工作坊，談的卻是組織應該如何使用「人工智慧」。當講師面露自信的神情說，可以用AI來撰寫最頭疼的工作報告時，現場立刻有人舉手，那是一位鄉鎮級區公所的資深科長。
科長問道：「您說的人工智慧工作報告可信度有多少？」
專業講師不假思索便答：「這取決於你使用的模型、工具及數據準確度。」
科長說：「所以若數據準確，就能得到一份可靠的工作報告？」
講師點頭，但科長隨即又說：「但根據本科的工作經驗，相同的數據，人工智慧可能會提出兩種不同結論的報告，同時，交由人工智慧計算出來的結果，也被發現有15%到20%的錯誤！」
講師趕緊說：「這與你們投入的成本有關，如果貴單位有足夠的投資，對工具進行更精確的命題與使用，就能夠提高工作報告的正確性。」
科長又問：「所謂的成本要花到多少錢，才能確認我得到的資料是正確的？」
講師想了一下，搖搖頭說：「這個問題我現在無法回答你。」
經過這一段對話之後，我當下思索的不再是人工智慧到底能給我什麼？而是，我能相信人工智慧到什麼程度？
對於報告數字結果的正確性，公務員恐怕是最斤斤計較的，畢竟涉及到人民生命財產、以及資料登載不實的問題，弄不好可是要丟飯碗的。至於一般企業能信任AI到什麼程度？這反而是產業現場最容易被忽略的問題。AI「信任」風險會發生在責任歸屬不清的場域。當公司認為使用了AI工具，可以協助員工提高工作效率，因此要求在較短的時間內完工。於是員工便將工時與責任，理所當然地轉嫁到AI上。而以目前AI法規未臻周延，即使出了什麼爭議，也很難究責或向提供AI服務的公司求償。
為了更了解人工智慧的信任風險，永續學院對企業進行了觀察與研究，為讀者整理可能發生的問題，讓企業在使用AI時特別留意。以下就以最嚴苛的「財務報表」產製，來說明可能存在的風險及其應對方法：
人工智慧、AI應用、風險
分享：
