商业洞察

【前实习生】字节起诉涉攻击大模型实习生索赔800万元 内部人士 - 没意识到错误 触犯安全红线

查看信息来源】   11-28 15:44:14  
字节跳动】【实习生

  字节跳动决定起诉此前攻击内部大模型的前实习生。

  11月28日,澎湃新闻记者获悉,字节跳动起诉前实习生田某某篡改代码攻击公司内部模型训练一案,已获 北京市 海淀区人民法院正式受理。字节跳动请求法院判令田某某赔偿公司侵权损失800万元及合理支出2万元人民币,并公开赔礼道歉。

  字节跳动内部人士向澎湃新闻记者表示,由于田某某为在读博士,公司将其解雇后首先交由校方处理。但在事件处理期间,田某某屡次对外否认,称攻击模型训练任务的不是自己,而是别的实习生,甚至报警称遭到诽谤。考量到田某某压根没有意识到错误,且涉事行为已触犯公司安全红线,公司最终决定向法院起诉,以表明公司严肃态度、杜绝类似事件再次发生。

  今年10月,“字节跳动大模型被实习生攻击”一事,曾经在舆论满城风雨。有传言称:“字节跳动的大模型训练被实习生入侵,注入了破坏代码,造成其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,造成的损失可能超过千万美元。”

  10月19日,字节跳动回应称:“确有商业化技术团队实习生恶意干扰团队研究项目的模型训练任务,该实习生已经被解雇,但这其实其实不影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其它业务。网传‘涉及8000多卡、损失上千万美元’严重虚构。”

  不过,字节跳动未披露受到影响的具体金额。字节跳动澄清,“经核对,涉事人始终在商业化技术团队实习,并没有AI Lab实习经历。其社交媒体个人简介及部分媒体透露有误。”

  该事件实际发生在今年6月底,实习生田某某为国内某高校在读博士生,于2021年9月起在字节实习,因对团队资源分配不满,利用HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,造成模型的练习效果忽高忽低,无法发生预期的练习效果,而且AML团队无法核查原因。在消息曝出后,该名涉事实习生试图在社交平台上辟谣,将责任甩给他人,不过很快便遭到了接近字节跳动人士的否认。

  为何索赔金额达到800万元如此高昂?上海申伦律师事务所律师夏海龙向记者解释称,法庭上原告能够佐证的损失通常都会低于实际损失,判决支持的钱财也一般低于原告的诉请金额。字节公司诉请索赔的钱财,决定于是否有证据证明被告的确给公司造成相应损失。

繁体中文