負責任的研究與創新

  • 瞭解負責任的研究與創新 (RRI) 的概念
  • 分析 RRI 重要的原因
  • 瞭解 RRI 原則:反思和預測

負責任的研究與創新 (Rri)

在本課中,我們將探討如何透過思考應用程式對世界的影響,讓您的驚人應用程式創意更臻完美。 

什麼是負責任的研究與創新 (RRI)?

您有沒有停下來想一想,科技可能會以我們意想不到的方式影響人類和地球? 

根據英國負責任的人工智能, Responsible Research and Innovation 的意思是

在進行研究和創新時,應預測其在未來可能對人們
和環境造成的影響,這樣我們才能獲得最大的利益並避免傷害。
.

RRI 的意義在於確保我們在創造新事物時,是以對大家都有利的方式進行,並避免負面後果。 RRI 幫助我們善用創造力,並瞭解您為何要這樣做。

區域架構

是一本簡單實用的指南,可幫助您應用 RRI 原則。它代表著

A預測潛在結果。可能發生什麼?

R反思反思我們的目標和方法。我們為何要這樣做?

E工作 與不同的人和社區合作。誰應該參與?

A我們 我們所學到的。我們該怎麼做?

在本課中,我們將著重於前兩點: 預測反思.

預期:未雨綢繆

這是關於運用您的想像力來思考未來。 也許您的應用程式可能會不小心分享太多個人資訊,也可能會造成數位隔閡,有些人可以使用,有些人卻不能。

預測可以幫助您及早發現潛在的問題,從而在問題發生之前將其解決。這就像在開始長途旅行之前看地圖一樣。這表示您可以想像應用程式可能發生的一切情況。 

預測意味著您已為意外做好準備。

停下來討論:

與您的應用程式構想有關:

會出什麼問題?

如果有人以您從未想到的方式使用它呢?

或者如果之後出現問題怎麼辦?

girls discussing

反思:向內看

反思是關於檢視自己的動機和選擇,從而清楚自己為什麼要這樣做。這是一個與您自己和您的團隊檢視的機會。這有助於確保您的專案忠於其原始目的和價值,並讓您走在正確的軌道上。 

就像您的應用程式會隨著增加新功能而改變一樣,您的想法也可能會改變。您應該在整個專案中不斷反省,以確保 您所做的每個選擇都能帶領您朝好的方向前進。

舉例說明

1.想像一下,有一個 AI 應用程式可以幫助醫生診斷疾病。
這是人工智能非常正面的用途!但如果用來訓練 AI 的資料大多來自某個族群 (例如來自特定國家的成人),那該怎麼辦?AI 對於其他族群的人可能無法發揮效用,導致診斷不準確。
2.預測與反思
開發人員必須預期並意識到,僅使用來自一個區域或群組的資料來訓練他們的系統,可能會導致不公平的結果 (偏見)。

在反思其價值與目的後,他們積極從許多不同的國家和社區收集多樣化的資料。 這可確保 AI 對每個人都是準確的,有助於阻止健康差異惡化,並與過去未被公平代表的社群建立信任。
3.開發人員應該問自己:
  • 如果 AI 犯錯怎麼辦?
  • 醫生如何知道 AI 診斷的可信度?
提出這些問題可以而且應該導致探索不同的方法、建立新的功能,以及使用更具包容性的資料集。

停下來討論

在這種情況下,您能想到開發人員應該問自己的其他問題嗎?

girls discussing

若要更好地瞭解負責任的創新者的重要性,請看一下這段影片。

活動:預測與反思

預計時間30 分鐘

現在是時候將您所學到的應用在您自己的專案構想上了!

以下列問題為引導,與您的團隊一起集思廣益。請記住要對自己誠實。這是確保您的專案能讓您真正引以為傲的機會,不只是因為它能運作,而是因為它能為世界帶來好處!
下載工作表

反射

您剛學習了兩種重要的工具,不僅可以建立很酷的應用程式,還可以建立負責任的應用程式:預測反省

mountain reflection
根據您的「預測」答案,您現在可能需要在專案中變更或增加哪一件事?
對 RRI 的思考如何改變了您看待日常使用的應用程式(如社交媒體或遊戲)的方式?

其他資源

  • 若要深入預測與反思,請查看諾丁漢大學與 Trustworthy Autonomous Systems Hub 合作製作資料
  • Code.org 提供的影片中,瞭解更多關於人工智慧的平等使用權與演算法偏見的資訊。