一個(gè)多學(xué)科的研究生團(tuán)隊(duì)幫助將道德計(jì)算內(nèi)容注入麻省理工學(xué)院最大的機(jī)器學(xué)習(xí)課程。

作為計(jì)算社會(huì)和道德責(zé)任倡議的一部分，一個(gè)多學(xué)科的研究生小組努力為麻省理工學(xué)院最大的機(jī)器學(xué)習(xí)課程之一注入與道德計(jì)算、數(shù)據(jù)和模型偏差以及機(jī)器學(xué)習(xí)公平性相關(guān)的材料。

參加 MIT 課程 6.036（機(jī)器學(xué)習(xí)簡(jiǎn)介）的學(xué)生學(xué)習(xí)強(qiáng)大模型背后的原理，這些模型可幫助醫(yī)生診斷疾病或幫助招聘人員篩選求職者。

現(xiàn)在，由于計(jì)算的社會(huì)和道德責(zé)任（SERC） 框架，這些學(xué)生還將停下來(lái)思考 這些人工智能工具的含義，這些工具有時(shí)會(huì)帶來(lái)意想不到的后果。

去年冬天，一個(gè)SERC 學(xué)者團(tuán)隊(duì)與講師 Leslie Kaelbling、松下計(jì)算機(jī)科學(xué)與工程教授以及 6.036 名助教合作，為每周實(shí)驗(yàn)室注入了涵蓋道德計(jì)算、數(shù)據(jù)和模型偏差以及機(jī)器學(xué)習(xí)公平性的材料。該過(guò)程由電氣工程和計(jì)算機(jī)科學(xué)系 X 聯(lián)盟助理教授 Jacob Andreas 于 2019 年秋季啟動(dòng)。SERC 學(xué)者在多學(xué)科團(tuán)隊(duì)中合作，幫助博士后和教師開(kāi)發(fā)新的課程材料。

由于 6.036 課程如此龐大，因此 2021 年春季學(xué)期入學(xué)的 500 多名學(xué)生在努力學(xué)習(xí)新的計(jì)算技術(shù)的同時(shí)，努力應(yīng)對(duì)這些道德方面的問(wèn)題。對(duì)于一些人來(lái)說(shuō)，這可能是他們第一次在學(xué)術(shù)環(huán)境中批判性地思考機(jī)器學(xué)習(xí)的潛在負(fù)面影響。

SERC 學(xué)者評(píng)估了每個(gè)實(shí)驗(yàn)室，以開(kāi)發(fā)具體的示例和與道德相關(guān)的問(wèn)題，以適應(yīng)該周的材料。每個(gè)人都帶來(lái)了不同的工具集。Serena Booth 是計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室 （CSAIL） 交互式機(jī)器人組的研究生。Marion Boulicault 是語(yǔ)言學(xué)和哲學(xué)系的研究生，現(xiàn)在是 SERC 所在的麻省理工學(xué)院蘇世民計(jì)算機(jī)學(xué)院的博士后。Rodrigo Ochigame 是歷史、人類學(xué)、科學(xué)、技術(shù)和社會(huì) （HASTS） 項(xiàng)目的研究生，現(xiàn)在是荷蘭萊頓大學(xué)的助理教授。他們與 MEng ‘21 助教 Dheekshita Kumar 密切合作，后者在開(kāi)發(fā)課程材料方面發(fā)揮了重要作用。

他們?cè)诿總€(gè)實(shí)驗(yàn)室進(jìn)行頭腦風(fēng)暴和迭代，同時(shí)與助教密切合作，以確保內(nèi)容適合并推進(jìn)課程的核心學(xué)習(xí)目標(biāo)。同時(shí)，他們幫助助教確定呈現(xiàn)材料的最佳方式，并就種族、性別和監(jiān)視等具有社會(huì)影響的話題引導(dǎo)對(duì)話。

“在像 6.036 這樣的課程中，我們正在與 500 名不在那里學(xué)習(xí)道德的人打交道。他們認(rèn)為他們?cè)谀抢飳W(xué)習(xí)機(jī)器學(xué)習(xí)的基本要素，比如損失函數(shù)、激活函數(shù)等等。我們面臨的挑戰(zhàn)是試圖讓這些學(xué)生以非常積極和參與的方式真正參與這些討論。我們通過(guò)將社會(huì)問(wèn)題與技術(shù)內(nèi)容緊密結(jié)合來(lái)做到這一點(diǎn)，”布斯說(shuō)。

例如，在一個(gè)關(guān)于如何為機(jī)器學(xué)習(xí)模型表示輸入特征的實(shí)驗(yàn)室中，他們引入了不同的公平定義，要求學(xué)生考慮每個(gè)定義的優(yōu)缺點(diǎn)，然后讓他們思考應(yīng)該輸入的特征一個(gè)使它公平的模型。

四個(gè)實(shí)驗(yàn)室現(xiàn)已在MIT OpenCourseWare上發(fā)布。一個(gè)由 SERC 學(xué)者組成的新團(tuán)隊(duì)正在根據(jù)教師和學(xué)生的反饋修改其他八名，重點(diǎn)是學(xué)習(xí)目標(biāo)、填補(bǔ)空白和突出重要概念。

有意的方法

SERC 副院長(zhǎng)兼航空航天學(xué)教授 Julie Shah 說(shuō)，學(xué)生在 6.036 上的努力表明 SERC 旨在以適合他們的方式與教師合作。由于這個(gè)大型課程的獨(dú)特性和緊迫的時(shí)間限制，他們調(diào)整了 SERC 流程。

SERC 是兩年多前通過(guò)麻省理工學(xué)院蘇世民計(jì)算學(xué)院成立的，旨在將來(lái)自不同學(xué)科的教師聚集到一個(gè)協(xié)作環(huán)境中，共同創(chuàng)建和推出專注于社會(huì)和負(fù)責(zé)任計(jì)算的新課程材料。

每個(gè)學(xué)期，SERC 團(tuán)隊(duì)都會(huì)邀請(qǐng)十多名教職員工加入一個(gè)致力于開(kāi)發(fā)新課程材料的行動(dòng)小組（有幾個(gè)SERC 行動(dòng)小組，每個(gè)小組都有不同的使命）。SERC 副院長(zhǎng)、Germeshausen 科學(xué)史教授和物理學(xué)教授 David Kaiser 說(shuō)，他們邀請(qǐng)的對(duì)象是有目的的，并尋求將可能會(huì)在較小的小組中形成富有成效的合作伙伴關(guān)系的教職員工包括在內(nèi)。

這些由兩到三名教職員工組成的小組在學(xué)期中磨練了他們的共同興趣，以開(kāi)發(fā)新的倫理相關(guān)材料。但不是一門(mén)學(xué)科為另一門(mén)學(xué)科服務(wù)，而是一條雙向的道路；Shah 解釋說(shuō)，每位教員都會(huì)將新材料帶回他們的課程中。麻省理工學(xué)院所有五所學(xué)校的行動(dòng)小組都吸引了教師。

“其中一部分涉及走出你正常的學(xué)科界限并建立一種語(yǔ)言，然后信任并與你正常圈子之外的新人合作。這就是為什么我認(rèn)為我們的故意方法如此成功。試用材料并將新事物帶回您的課程是很好的，但建立關(guān)系是核心。這使得這對(duì)每個(gè)人都很有價(jià)值，”她說(shuō)。

產(chǎn)生影響

在過(guò)去的兩年里，Shah 和 Kaiser 對(duì)圍繞這些努力的能量和熱情印象深刻。

自該計(jì)劃啟動(dòng)以來(lái)，他們與大約 80 名教職員工合作，僅去年一年就有 2，100 多名學(xué)生參加了包含新 SERC 內(nèi)容的課程。這些學(xué)生不一定都是工程師——大約 500 人通過(guò)人文、藝術(shù)和社會(huì)科學(xué)學(xué)院、斯隆管理學(xué)院和建筑與規(guī)劃學(xué)院提供的課程接觸了 SERC 的內(nèi)容。

沙阿說(shuō)，SERC 的核心原則是計(jì)算中的道德和社會(huì)責(zé)任應(yīng)該融入麻省理工學(xué)院的所有教學(xué)領(lǐng)域，因此它與課程的技術(shù)部分一樣重要。技術(shù)，尤其是人工智能，現(xiàn)在幾乎涉及每個(gè)行業(yè)，因此所有學(xué)科的學(xué)生都應(yīng)該接受培訓(xùn)，幫助他們理解這些工具，并深入思考它們的力量和陷阱。

“弄清楚事情出錯(cuò)的原因或發(fā)生的事情不是別人的工作。這是我們的全部責(zé)任，我們都有能力做到這一點(diǎn)。讓我們習(xí)慣這一點(diǎn)。讓我們建立起能夠停下來(lái)問(wèn)那些棘手問(wèn)題的能力，即使我們無(wú)法在問(wèn)題集的最后找到一個(gè)答案，”Kaiser 說(shuō)。

對(duì)于三位 SERC 學(xué)者來(lái)說(shuō)，在沒(méi)有答案可參考的情況下，仔細(xì)提出道德問(wèn)題是一項(xiàng)獨(dú)特的挑戰(zhàn)。但深入思考這些棘手的問(wèn)題也幫助布斯、布利科和奧奇加姆學(xué)習(xí)、成長(zhǎng)，并通過(guò)其他學(xué)科的視角看待世界。

他們希望 6.036 的本科生和助教能夠牢記這些重要的課程，并融入他們未來(lái)的職業(yè)生涯。

“這個(gè)過(guò)程讓我受到啟發(fā)和鼓舞，我學(xué)到了很多東西，不僅僅是技術(shù)材料，還有跨學(xué)科合作可以實(shí)現(xiàn)的目標(biāo)。只是這種努力的規(guī)模令人興奮。如果我們有這 500 名學(xué)生組成的隊(duì)列，他們能夠更好地了解如何思考這些問(wèn)題，我覺(jué)得我們真的可以有所作為，”Boulicault 說(shuō)。