“大家好,我是anthropic的首席執行官達裡奧·阿莫迪。紐約九家大型醫院使用的claude醫療模型由我們提供。作為醫療人工智能行業的一員,我請求就今天討論的議題發表幾點意見。”
“今天的發布會麵向所有相關方。阿莫迪先生,請。”
市長心裡為林恩捏了一把汗,大家都知道這個人對華的態度。
阿莫迪走到講台側麵的話筒前。
他看人的眼神很奇怪,總像是在看一個等待他糾正的對象。
他先掃過亮著紅燈的攝像機,然後才把目光落到林恩身上。
“市長先生,議長先生,各位。”
“首先,我對昨晚所有醫療工作者的付出表示敬意。包括林恩醫生和他的團隊。”
“但作為一個研究人工智能風險、並把模型部署進醫療係統的人,我有義務指出一些被忽略的事實。”
“昨晚被用來修複紐約醫院係統的所謂‘開源模型’,它們的能力從哪裡來的?”
“就在不久前,我們的調查報告確認了一件事。多家華國企業利用數萬個虛假賬戶,從claude模型中係統性地竊取能力。涉及近三千萬次非法調用。”
“這已經超出了貿易爭端的範疇。它屬於知識產權盜竊。”
“而今天我們被告知,用竊取來的技術修複了美國的醫院係統,這應該被當作一個‘成功案例’來宣傳。”
“第二。公開權重同樣無法自動換來信任,一輛車打開了引擎蓋,你能看見零件,但你不知道它時速兩百公裡的時候會不會散架。”
“anthropic每年投入兩億美元用於安全研究。有三百人的專職對齊團隊,確保模型不會產生有害輸出。我們還為醫療客戶提供符合hipaa要求的企業級安全保障。那些華國的開源模型有這樣的投入嗎?”
“第三。”
“我們正在討論的是讓外國技術進入美國的醫療基礎設施。今天是修複係統,明天就是輔助診斷、用藥審核、手術規劃。”
“各位,我們真的準備好了,把美國病人的生死交給一個我們無法追責的係統嗎?”
“開源意味著沒有人負責,出了事你找誰?找github代碼共享平台上的一個匿名貢獻者?”
“誰來負責”在美國的法律文化裡有碾壓性的重量。
幾個記者交換了目光,有些人已經開始想明天的標題了。
阿莫迪打出了一記重拳。
林恩站在講台後麵,沒有因為阿莫迪的指摘有任何慌亂:
“阿莫迪先生。”
“我注意到你今天來得很早。昨晚14家醫院癱瘓的時候,你的公司的工程師告訴那些醫院,請等12到16個小時。”
“你的緊急響應沒有這麼快,但你來這裡堵我的速度倒是很快。”
記者席裡有幾個人笑了。
“你問我出了事找誰負責。”
“好。那我們來談談‘負責’。”
“昨晚,林肯醫院有兩名病人死了。”
“一位72歲的冠心病男性。他在等待取藥的時候發生了急性心肌梗死,因為你們的參與的係統崩潰導致43台自動發藥櫃同時鎖死,搶救用藥取不出來。”
“一位38歲的重症哮喘女性,她在走廊裡等了五個小時,沒人發現她當時正處於呼吸衰竭狀態。”
“請問阿莫迪先生,這兩條人命,誰來負責?”
“你來嗎?”
“你那支三百人的對齊團隊來嗎?”
“還是你每年兩億美元的安全研究經費來?”
阿莫迪試圖解釋:
“那次事件的起因是openai的模型失控。我們anthropic隻提供底層模型,院內係統由子午線負責集成,當時他們並沒有選擇讓我們介入,法律責任應當由他們承擔。”
林恩馬上接過話頭:
“推銷的時候,claude屬於你們anthropic,出了人命,它就屬於子午線。我知道。這正是我要說的重點。”
“你說出了事要有人負責。可當真的出了事,你第一反應是說‘不關我的事’。”
“這就是你口中‘負責任的技術’?anthropic負責收錢,合作夥伴負責坐被告席?”
”?裡同合務服的元美萬千四年每你在現出會隻,話句這’任責負‘說是還“
。應回何如該道知不迪莫阿
𝘄𝘁.𝗽𝗼𝗼問訪請,節章新最受享間時一第您讓
。點落到不找他
。麵上實事的生發經已晚昨在立建都,話句一每的說恩林為因
。駁辯受接不實事
。道交年多了打構機管監、人資投和竟畢迪莫阿
。倒打勢攻輪一被會不他
:口開次再,吸呼了整調他
”。緒情的刻此約紐解理也我。出付的晚昨你重尊我,生醫恩林“
”。度維的遠長更到回拉題問把想我但“
”。人動很話些這,的人有所於屬、的明透、的平公是源開說你“
”。訴追以可同合有沒院醫的你,賠索方地有沒人病的你,後以題問了出,上統係的任責律法擔承體實業商有沒個一在建構施設礎基療醫的市城座一把你當是可“
”。果後擔承你替會人病,人的險風擔承力能有沒最給嫁轉險風把會法做種這“
。懇誠切深得顯然居情表,恩林著看他
”。上之義主想理在立建能不統係療醫但。生醫好個一是你“
。款條責免了進塞命人條兩晚昨把又,護保的人病對了成說同合的元美萬千四年每把迪莫阿
。迪莫阿向看頭起抬屬家者死名一排前
。到意注有沒本根他但
」。更「斷時「隨站「網它其,站「網個一這有「隻」長「」站「,g」r」o「」.」s」x」i」q「e」d」.」w」w「w「:」址」網「一」唯」說」小」奇「」得「藏「收請
到帶竊偷和國華從題話把他