OpenAI“不能说的秘密”被公开了?使用YouTube数据训练模型 获取方式并不光彩
Aim_yuan
发表于 2024-3-19 21:47:26
202
0
0
当前AI大模型的训练,数据端需要巨大数据量的大规模数据集投喂。公开资料显示,OpenAI的数据来源可能包括但不限于:公开可用的数据集,如互联网上的各种资源,如书籍、网页、新闻文章、学术论文等;合作伙伴和第三方数据提供商提供的数据集;购买的特定领域的数据,如医疗、法律或科学文献;合成数据,OpenAI可能会使用其模型自生成数据,例如通过模型自身的输出来训练和改进模型;众包和社区贡献的数据。
数据来源并不是最重要的问题,外界关注的焦点是OpenAI如何拿到这些数据。
▌“偷”来的?
正如Business Insider报道,OpenAI使用大量YouTube视频训练模型已经是“公开的秘密”,受益产品包括其新推出的文生视频领域模型Sora。谜团在于OpenAI如何取得足够的YouTube内容。
要知道,YouTube是谷歌的子公司。2006年,YouTube被谷歌以16.5亿美元的价格收购,并在谷歌的支持下迅速成长为全球最大的视频分享平台。
而谷歌一直致力于发展AI,是OpenAI的主要竞争对手之一,自然不会将自家金矿无偿提供给对家使用,YouTube早已禁止出于商业目的的下载,还将限制大量下载YouTube视频数据的行为。这种严格把控下,个人用户也受到了影响,有人表示,即使下载一个YouTube视频,速度也非常缓慢,需要几个小时才能完成。
一个普遍的猜测是,OpenAI使用爬虫,“偷走”了YouTube的数据。OpenAI曾经承认,推出了名为GPTBot的网络爬虫机器人,用于抓取和收集数据用于大模型训练。
OpenAI高管对相关问题闪烁其词,也从侧面加深了人们对其“数据小偷”的印象。《华尔街日报》最近询问OpenAI首席技术官Mira Murati,该初创公司是否使用包括来自YouTube、Instagram和Facebook的视频来训练Sora。
“我实际上对此并不确定,”她说。当再次被问及训练数据的来源时,Murati拒绝回答,“我不会透露细节。”
Business Insider最新报道指出,一位熟悉OpenAI运营的人士表示,该公司指派了一个严密保护的团队来获取训练数据,关于如何获得这些数据,是一个保密问题。
▌栅栏丛生的AI原野
使用爬虫的行为并不为谷歌所容,该公司旗下的YouTube禁止通过机器人和其他自动化方法抓取其视频。
但对于OpenAI来说,以违反谷歌服务条款的方式访问YouTube视频可能并不违法。美国的判例法和“合理使用”原则赋予了公司以不同方式自由使用在线内容的权利。
简而言之,谷歌、OpenAI和其他科技公司目前认为,使用受版权保护的内容进行人工智能模型训练也是合法的。监管机构也尚未就此做出明确规定。人工智能的竞技场仍然是一片广袤的原野,与数据有关的游戏规则要么尚未确定,要么被忽视。
各厂商争先入场,搭建自己的技术栅栏。
OpenAI和其他大模型开发商此前曾在发表的研究论文中公开其训练数据源,但随着竞争加剧,这种做法不再盛行。人人都想要保留自己的技术秘诀,以求相对优势,尤其是占据有利地位的头部厂商,开源之争也是厂商试图自留杀手锏的体现。
唯一确定的是,随着生成式AI技术的进一步迭代,类似的纠纷只会多不会少。
大公司更容易成为众矢之的,以数据为例,即使它们敢于承担责任,承担高昂的数据采购成本,但要做到数据获取完全合规,并不容易。由于参数量巨大,大模型需要借助分布式计算和云服务等技术来进行训练和部署,又增加了数据被窃取、篡改、滥用或泄露的风险。
如何平衡个人隐私保护和鼓励技术创新,如何找到企业生存与合规生产间的最优路径,已经是每个致力于生成式AI事业的公司绕不开的问题。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 百度李彦宏:过去24个月,AI行业最大变化是大模型基本消除了幻觉
- 「AI新世代」大模型厂商齐“卷”智能体,李彦宏称将迎来“靠想法就能赚钱时代”
- 李彦宏说大模型幻觉基本消除了 实测文心一言到底怎么样?
- 百度发布两款“超级有用”应用,李彦宏:大模型变得可用可信
- AI周报|杨植麟称kimi月活超3600万;李彦宏:大模型幻觉基本消除了
- 百度吴甜:大模型重塑产业智能引擎
- 大模型重塑产业智能引擎 百度分享文心大模型最新进展
- 文心一言用户数破4亿,百度吴甜:大模型正重塑产业智能引擎
- 阿里巴巴CEO吴泳铭:AI发展需要一批不同规模、不同领域的开源大模型
- 百度Q3核心净利润增长17%超预期 文心大模型日调用量达15亿
-
ナスダック中国の金龍指数は0.60%上昇し、人気の中概株の多くが上昇した。闘魚は14%超上昇し、小馬智行は8%超上昇し、蔚来は2%超上昇し、網易、小鵬自動車、理想自動車、ピッピッピッピッ、網易は1%超上昇した。下 ...
- 不正经的工程师
- 昨天 23:57
- 支持
- 反对
- 回复
- 收藏
-
唐唯実(CarlosTavares)氏はStellantisグループCEOを辞任した。新CEOが就任する前に、Stellantisグループはグループ会長のジョン・エルカン(John Elkann)氏が議長を務める臨時執行委員会を設立する。 唐唯実はSt ...
- 情义无价943
- 2 小时前
- 支持
- 反对
- 回复
- 收藏
-
テスラの株価は11月に累計38%超上昇し、ここ2年で最高だった。
- 内托体头
- 昨天 23:10
- 支持
- 反对
- 回复
- 收藏
-
Stellantisグループは現地時間12月1日、グループの取締役会が、すぐに有効になる唐唯実(Carlos Tavares)氏のStellantisグループ最高経営責任者辞任の要請を受け入れたと発表した。 StellantisグループのHenri de ...
- SNT
- 3 小时前
- 支持
- 反对
- 回复
- 收藏