큰 모형은 도대체 오픈 소스가 좋습니까, 아니면 오픈 소스가 좋습니까?최근, 개폐원을 둘러싼 노선 다툼은 바이두 회장 리옌훙의 내부 연설로 다시 풍랑을 일으켰다.
4월 11일 저녁, 바이두 리언굉 리사장의 내부연설이 폭로되여 개원대모형에 적지 않은 찬물을 끼얹었다. 그는 대모형의 개원의 의의가 크지 않으며 페원모형이 능력면에서 지속적으로 앞자리를 차지하여 모형을 만드는 창업회사가 모형을 만들면서도 응용을 하는"이륜구동"은 좋은 모식이 아니라고 말했다.
"1.개폐원 논쟁에 관한 핵심은 누가 개원하고 있는지 봐야 한다.2.이륜구동은 일선 창업 AGI사의 유일한 해이다."제일재경기자가 단독으로 입수한 소식에 따르면 이날 저녁, 백천지능 CEO 왕소천은 한차례 위챗군토론에서 부동한 관점을 발표했다.
그룹에서 주사강창투 주관 파트너인 주소호도 "GPT4면 90% 이상의 비즈니스 수요를 달성할 수 있다. 개폐원은 상관없다. 앞으로 대형 모델 API가 수돗물 가격"이라고 말했다. 그는 "하지만 사용자에게 필요한 것은 정제수, 기포수, 우롱차..."라고 덧붙였다.
대형 모델 생태 커뮤니티 OpenCSG의 창시자 천옌은 제일재경 기자와의 인터뷰에서 자신의 오픈 소스에 대한 의미가 크지 않은 주장은"심각하게 인정하지 않는다"며"국내든 해외든 대형 모델 오픈 소스는 이미 큰 추세가 되었고, 오픈 소스 추세는 업계의 이 이상의 상업화를 촉진하고 추진할 것이며, 빠른 반복, 빠른 시행착오, 공동 창조, 공동 부담,"개원은 점점 더 팽배해질 뿐이다."
업계에서 폐원대모델이 개원대모델보다 낫다고 확고히 생각하는 업계 인사들은 대모델의 개원을 추진하는 자와 두 갈래의 분류를 형성한다.제일재경기자가 여러 업계인사와 교류하여 알아본데 따르면 페원과 개원대모형은 응용장면에서 초보적인 분화를 형성했는데 량자는 각기 리해득실이 있지만 대모형응용초기에는 모두 생존공간이 있었다.
클로즈업이 좋아요, 오픈 소스가 좋아요?
국내 과학기술대공장가운데서 바이두, 바이트, 텐센트, 화웨이 등 회사는 현재 아직 개원대모형을 발표한적이 없다.이와 함께 폐원과 개원을 병행하는 노선을 택한 기업도 적지 않다.지금까지 알리퉁의 천문, 바이촨지능, 360, 쿤룬완웨이, 지보AI, 웨이브, 즈위안, iFLYTEK, 제로만물, APUS 등을 포함하여 모두 다른 매개변수의 오픈 소스 모델을 발표한 바 있다.이 중 천억 매개변수에 달하는 오픈 소스 대형 모델은 APUS-xDAN 대형 모델 4.0(MoE)(1360억)과 웨이브 정보의'소스 2.0'102B(1026억)이다.
무엇때문에 리언굉은 큰 모형의 개원의 의의가 그리 크지 않다고 인정하는가?내부 연설에서 그는 비즈니스 모델의 폐쇄 소스 모델이 있어야 인력과 재력을 모을 수 있고, 중국과 미국의 가장 강한 기초 모델은 모두 폐쇄 소스이며, 가장 좋은 작은 모델은 모두 큰 모델의 차원을 낮추어 만든 것이며, 또한 폐쇄 소스는 원가, 효율에서 우세하며, 동등한 능력의 폐쇄 소스 모델은 추리 원가가 더 낮고, 응답 속도가 더 빠르다는 이유를 제시했다.
그는 또 다른 이유가 있다. 즉 모델 오픈 소스는 리눅스, 안드로이드와 같은 기존 소프트웨어 오픈 소스와 다르다."오픈 소스 모델 Llama도 다양한 데이터, 코드를 기여하도록 장려하지만, 실제로 가장 주요한 개발자는 메타이다. 진정으로 모두가 함께 개발하는 제품은 아니다."
"페원" 의 일면에 선 사람은 또 월의 암면 창시자 양식린도 있다. 그는 이전에 인터뷰에서 페원에는 인재집결과 자본집결이 있을것이며 마지막에는 반드시 페원이 더욱 좋을것이며 해외에는 개원확산모델인 Stable Diffusion에 기초한 몇백개의 응용이 있지만 하나도 뛰쳐나오지 않았다고 말한적이 있다.
양식린은 이전에 이전에 모든 사람들이 오픈 소스에 기여할 수 있었지만 지금은 큰 모델의 오픈 소스 자체가 여전히 중심적이라고 언급한 바 있다.월의 어두운 면은 지금까지 오픈 소스 모델에 관한 구체적인 계획이나 프로젝트에 대해 공개적으로 언급하지 않았다.
이보다 앞서 인공지능 과학자 선샹양은 한 업계 포럼에서 대형 모델의 오픈 소스 폐원 경로 논쟁에 대해 언급했다.그는 업계 1위는 반드시 폐원이고, 2위는 여전히 주저하고 있으며, 3위야말로 오픈 소스라고 생각한다.
하지만 누군가는 오픈 소스의 힘을 믿는다.
오픈 소스의 서로 다른 매개변수 규모의 모델이자 폐쇄 소스 큰 모델의 책임자는 제일재경 기자에게 모델의 능력이 끊임없이 발전하고 있으며 AI 분야의 기술 혁신과 돌파는 줄곧 멈추지 않았다고 말했다.서로 다른 기업과 개발 환경은 모델 크기, 모델 능력 및 배후의 자원에 대해 서로 다른 고려를 할 수 있다.어떤 때는 최고의 성능을 고려하고, 어떤 것은 충분한 자원을 가지고 있으며, 더 높은 품질의 모델이 필요하다.
또 종사자들은 기자에게 리옌훙의 뜻은 창업자가 바이두의 큰 모델에 의존하면 충분하다는 것이라고 말했다.그러나 현재 큰 모델은 아직 발전 초기에 처해 있어 어느 한 집도 독대하거나 업종을 독점하지 않고 있다.바이두가 국내에서 비교적 일찍 진입한 큰 모형의 하나라 하더라도 지금은 달의 암면 Kimi의 기습에 직면해 있다.
왕샤오촨도"개원과 폐원은 휴대폰에서 iOS나 안드로이드 운영체제가 둘 중 하나만 선택할 수 있는 것과 같지 않다"며"개원은 확실히"인품을 세우기 쉽다","친구가 많다"는 말로 큰 모델의 좋고 나쁨을 신속하게 이해하고 평가할 수 있도록 했다.동시에 오픈 소스도 상업화를 위한 준비이다. 만약 모두가 사용하기에 좋다고 생각한다면, 더 좋은 서비스와 더 큰 매개변수가 필요할 때 더 큰 상업화 경로를 탐색할 수 있다.
앞서 알리윈 CTO 저우징런도 제일재경 등을 포함한 언론과의 인터뷰에서 오픈 소스 커뮤니티가 이미 왕성하게 발전하고 있다고 노선 다툼에 응한 바 있다.그는 알리 클라우드의 원래 취지는 모델을 자신의 손에 쥐고 상업화하는 것이 아니라 개발자를 돕는 것이며, 오픈 소스 생태는 중국 대형 모델의 기술 진보와 응용 착지, 그리고 생태의 왕성한 발전을 촉진하는 데 매우 중요하다고 말했다.
"자원, 데이터, 인력으로 볼 때, 비즈니스 모델이 있는 폐원대모델이 개원대모델보다 잘 한다는 말은 어느 정도 성립된 것이다. 그 이유는 모델 훈련 원가가 높고 재력 지원이 필요하기 때문이다. 예를 들어 훈련은 한 번에 1000만 달러이다."시나 웨이보 신기술 연구개발 책임자 장준림은 기자에게 말했다.그러나 다른 각도에서 볼 때, 이 주장은 또 완전히 정확하지 않다. 왜냐하면 현재 많은 오픈 소스 모델도 대기업이 한 것이고, 자원 투입도 있기 때문이다.
상하이 인공지능 실험실 리더 과학자 린다화 교수는 앞서 제일재경과의 인터뷰에서"폐원은 제품 다듬기에 더 강해질 수 있기 때문에 제품 성숙도는 각 방면에서 더 좋을 것"이라며"오픈 소스 모델의 경우 제품 성숙도에서 폐원 모델에 비할 수 없지만 더 광범위한 종사자들이 사용하고 2차 개발을 할 수 있다"며"마지막에는 오픈 소스 모델의 실제 시장 비중이 매우 높을 수 있다"고 말했다.그는 오픈 소스 폐쇄가 과거 컴퓨터 기술 발전 흐름에서 운영 체제 분야의 윈도우즈와 리눅스와 유사한 상호 보완적인 길을 보여줄 것이라고 생각한다.
오픈 원자 오픈 소스 재단의 선임 법률 고문 인 Liu Wei는 이전에 GDC 대회에서 폐원 모델에는 몇 가지 병목 현상이 있는데, 하나는 클라우드 추리의 비용이 너무 높기 때문에 병발 수요가 높으면 그에 따라 큰 지연이 발생할 수 있다고 말했다.모델이 클수록 유연성과 경제성이 떨어지고 모델의 일반적인 환각 문제도 장면의 지원이 있어야 더 결합할 수 있다.
"개원 모델은 개원 소형 모델보다 낫다. 단말기에 유연하게 배치할 수 있다. PC, 휴대폰을 포함하여 저지연 추리의 AI 체험을 실현할 수 있다. 고품질의 데이터로 수직 영역의 응용을 훈련할 수 있다. 큰 모델이 응용에서 천행백업에 능력을 부여하는 것을 가속화할 수 있다. 즉 폐원의'병'은 개원이 마침'치료'할 수 있다."라고 류웨이는 언급했다.
미니맥스 기술 부사장 앤더슨은 앞서 제일재경 기자에게 개원과 폐원은 각각 존재하는 우세와 가치가 있다고 말했다.오픈 소스는 더 많은 개발자들이 함께 참여하도록 끌어들일 수 있고, 기술의 발전과 보급을 가속화할 수 있으며, 더 많은 혁신과 창의성을 불러일으킬 수 있다.페원모델의 품질과 안정성은 더욱 통제할수 있으며 지적재산권을 더욱 잘 보호하고 상업화의 착지를 추진할수 있다."나는 오픈 소스와 폐쇄 소스가 서로 보완하여 더욱 개방적이고 협력적이며 혁신적인 발전 모델을 형성하여 대형 모델 분야의 발전을 공동으로 추진할 수 있다고 생각한다."
대형 모델 개발자 가오샤오안 (가명) 은 작년에 오픈 소스 모델에 따라 미세 조정하고 오픈 소스 플랫폼에 프로젝트를 발표하기 시작했는데, 그는 오픈 소스가 대형 모델 생태에 유리한 변화를 가져왔다고 생각한다."큰 모델 개발자는 오픈 소스 모델을 기반으로 많은 두 가지 창조 작업을 할 수 있으며, 다양한 버전의 StableDiffusion 모델, 다양한 Llama 모델을 기반으로 한 중국어 Llama 모델 등이 등장하는데, 이는 폐쇄 소스 모델이 할 수 없는 것이다."
가오샤오안은 또한 오픈 소스 대형 모델의 또 다른 장점은 무시할 수 없으며, 회사 자료를 폐쇄 소스 모델에'여보세요'를 사용하는 것이 초래할 수 있는 데이터 유출 문제에 비해 오픈 소스 모델을 훈련하기 위해 고유한 업무 데이터를 수집하는 것은 이 방면의 우려를 줄일 수 없으며, 훈련을 거친 모델도 ChatGPT 등 폐쇄 소스 모델에 필적하거나 심지어 추월할 수 있다고 주장했다.물론 오픈 소스 대형 모델은 또 하나의 장점이 있는데, 즉 대형 모델 기업에"광고"를 하는데, 구글, 알리, 바이촨 지능을 포함하여 모두 파라미터 양이 비교적 작은 모델을 오픈소스로 하고, 파라미터 양이 비교적 큰 모델은 폐원 심지어 비용을 수취한다.
오픈 소스 ToB 오픈 소스 ToC?
오픈 소스 큰 모델이 좋은지 아니면 폐쇄 소스 큰 모델이 좋은지에 대해 이야기하는데, 하나의 잠재적 의미는 양자가 같은 응용 장면에서 서로 겨루게 된다는 것이다.그러나 실제로 현재 오픈 소스 모델과 폐쇄 소스 모델은 어느 정도 분화되어 있습니다.어떤 대형 모델 개발자는 기자에게 무료와 데이터 보안 고려에 기초하여 많은 회사들이 이미 오픈 소스 대형 모델을 기초로 자신의 대형 모델을 만들었다고 말했다.
"개원과 폐원은 두 진영을 형성하는데, 장면상 오픈 소스는 To B, 폐원은 To C를 더 선호하는 두 코스이다."장준림은 오픈 소스는 To C를 형성할 수 없다. 구체적인 제품을 제공하지 않기 때문에 개인 사용자에게 응답할 수 없다. 그러나 오픈 소스는 기업을 대상으로 할 수 있다. 기업은 오픈 소스 큰 모델을 기반으로 데이터 프라이버시에서 우위를 얻을 수 있다.
왕소천은 To B의 각도에서 개원폐원은 사실 모두 필요하다고 인정했다.앞으로 80% 의 기업이 오픈 소스의 큰 모델을 사용할 것이다. 왜냐하면 폐쇄 소스는 제품에 더 나은 적응을 할 방법이 없거나 비용이 특히 높기 때문이다. 폐쇄 소스는 나머지 20% 에 서비스를 제공할 수 있다.양자는 경쟁 관계가 아니라 서로 다른 제품에서 상호 보완하는 관계이다.
린다화는 ToB의 관점에서 오픈 소스가 폐쇄 소스보다 더 좋을 것이라고 언급했다. 왜냐하면 그것은 2차 개발을 할 수 있는 더 큰 개방성을 가지고 있기 때문이다.비록 앞으로 폐원 모델 제조업체가 플랫폼화된 서비스를 내놓을 것이지만, 개발자는 위에서 그 표준화된 도구로 단일 업종과 수직 방향의 모델을 만들 수 있다.그러나 각 분야의 수요는 매우 복잡하고 다양해서 표준화된 일련의 도구 사슬이 전부 커버할 수 있는 것은 아닐 수도 있다.
"많은 업종의 기업과 기구는 수요가 있을 것이다. 스스로 전체 모델의 반복을 장악하고 자신이 필요로 하는 방향으로 인도하려고 한다. 그러나 그들은 기초 모델의 투입이 없다. 또한 너무 많이 투입하거나 이런 능력이 없는 것을 원하지 않는다. 이런 상황에서 오픈 소스 모델은 그들에게 가장 좋은 선택이다. 그것을 둘러싸고 각종 세부적인 2차 개발을 할 수 있다. 이런 개발은 반드시 표준적인 도구 사슬이 지탱할 수 있는 것은 아니다."라고 린다화는 말했다. 미래의 이러한 오픈 소스 산업 체계는 이러한 오픈 소스 모델을 지탱할 수 있다.
폐원 모델에 대해 말하자면, 더 큰 기회는 매우 모인 일부 코스에 있다."만약 마지막에 채팅 앱이 나타날 수 있고, 매우 큰 C단 트래픽이 있을 수 있다면, 이 방향은 일부 큰 공장이 하나의 상업화 체계에서 걸어나오는 것일 가능성이 있다."
림달화는 다음과 같이 인정했다. 페원대모델의 핵심의 론리는 그것이 상업페환을 구성할수 있고 대량의 사용자피드백을 가질수 있으며 고정된 경로에서 장벽을 형성할수 있다. 최종적으로 그가 진정으로 사용자의 통점을 맞히는 곳을 찾을수 있고 사용자의 피드백을 통해 능력을 제고할수 있다고 가정하면 그것은 하나의 코스를 점거하고 이곳에서 상업화현금화를 진행할수 있다.최종적으로 부동한 수요를 지향하면 부동한 모식이 있게 되고 페원과 개원은 상호보완적인 효과를 형성하게 된다.
대형 모델 제조업체의 선택 측면에서 볼 때, 장쥔린은 오픈 소스를 선택하는 것은 일종의 차별화 전략이라고 생각한다.폐원 대형 모델 비즈니스 모델은 더욱 명확하지만, 폐단은 모델 효과가 가장 좋지 않으면 비용을 받기 어렵다는 것이다.만약 오픈 소스 노선을 걷는다면, 비록 원칙적으로 모델은 비용을 받지 않지만, 이에 따라 비즈니스 모델을 형성할 수도 있다. 마치 오픈 소스의 Linux에도 비즈니스 모델이 있는 것과 같다.그래서 제조업체가 만약 큰 모델을 가장 잘 할 자신이 없다면, 오픈 소스가 하나의 선택이다.
장준림은 다음과 같이 인정했다. 개원이 반드시 성공할수 있는것은 아니다. 개원대모형은 설사 가장 좋지 않더라도 특점이 있어야 한다. 개원대모형은 정확한 위치를 확정해야 한다.례를 들면"작지만 강한"로선을 걸으면 매개 변수량이 작아 비록 참가수량이 큰 모델보다 효과가 좋지는 않지만 원가가 낮고 배치가 간단하며 하드웨어에 대한 요구가 높지 않은 특점이 있어 이동설비에 배치할수 있고 응용장면이 많다.또 다른 선택은 Grok과 같은 큰 매개변수를 만드는 것입니다. 성능이 좋은 특징을 위주로 합니다.
고효안은 체험후 기자에게 다음과 같이 표시했다. 개원대모형과 폐원대모형의 방법에도 차이가 있다.비록 최근 오픈 소스의 Grok-1 참가 수량이 천억에 달하지만, 많은 오픈 소스 대형 모델 매개변수의 양은 알리 클라우드 Qwen-7B, Baichuan2-13B와 같은 70억, 130억 매개변수에 불과하다.그는 기자에게 다음과 같이 말했다. 페원대모형이 매개 변수를 겨루는것보다 이런 소참수량의 개원대모형은 더욱 많은 예비훈련수치를 쌓아 비교적 좋은 효과를 거둘수 있다.
"같은 데이터량 상황에서 더 큰 매개변수 모델의 훈련 수렴 속도가 더 빠르고 효과도 더 좋지만 훈련 비용도 훨씬 높다.그러나 작은 모델은 배치 비용이 더 낮고 실제 업무에서 더 우호적으로 사용되며 일부 실험은 70 억과 130 억 모델의 사전 훈련 수가 아직 포화 수준에 이르지 않았다는 것을 보여줍니다."고효안은 다음과 같이 인정했다.
장준림도 다음과 같이 인정했다. 현재 소형모형의 능력은 이미 재빨리 제고되고있으며 능력은 아직 상한선이 보이지 않는다. 원칙적으로 소형모형에 더욱 많은 수치를 주기만 하면 효과는 계속 상승할것이다.
그러나 고효안은 개원대모형에도 뚜렷한 페단이 있다고 인정했다. 만약 개원대모형의 광고효과에 대해 언급하지 않는다면 개원대모형 자체의 상업화에는 여전히 일정한 난제가 존재한다.오픈 소스 모델은 상용 버전에 대한 요금을 고려할 수 있지만, 오픈 소스 대형 모델의 경쟁이 치열한 상황에서 이런 방법은 비교적 어렵다.
오픈 소스 회사의 수익점은 어디에 있습니까?린다화는 오픈 소스 제조업체가 하나의 서비스를 구축할 수 있다고 생각한다."가치 있는 것은 완전히 모델 자체만이 아니라 그 서비스와 연결된다. 왜냐하면 오픈 소스 모델을 기반으로 2차 개발을 하는 것은 상당히 복잡한 일이기 때문이다. 충분한 기술 지원이 없는 상황에서 이 일을 하는 비용은 매우 높을 것이다. 이때 기술 서비스의 가치는 발휘될 수 있다."
오픈소스의 비즈니스 모델에 대해 천옌은 이 전법은 인터넷 시대 모바일 응용의 시장 모델과 같다며"한동안 무료로 시험해 보면 뒤에 기업이 포장한 후의 기능이나 서비스가 있다. 이 물건도 자동차 안의 엔진에 해당한다. 직접 사용할 수 없다. 완성차 (기업 기능) 로 포장해야 한다."
"큰 모델은 매우 큰 상업 공간을 전개할 것이다. 다른 방식이 다른 점에서 매우 다른 모델이 있을 것이다. 가장 꺼리는 것은 모든 물건을'신발'위에 씌우는 것이다."라고 린다화는 제일재경에게 말했다.