바이두 부총재 진양: 문심대모형구동 안전업무 재구성 가속화

383279021

최근,"클라우드 융합 미래, 보안 내재"제7회 클라우드 보안 연합 중화권 대회 (CSA GCR Congress) 가 선전에서 개최되었다.바이두 부총재 진양은 대회에 참석하여"안전대모형"+"대모형안전"을 둘러싸고 주제연설을 발표했다.진양은 다음과 같이 표시했다. 큰 모형은 산업승격과 경제성장을 가속화하는 동시에 인터넷안전업종에도 새로운 기회와 도전을 가져다주었다.큰 모델을 기반으로 스마트 휴먼 컴퓨터 협동을 통해 전체 보안 업무 프로세스를 재구성할 수 있으며, 큰 모델은 일종의"생산력 도구"로 진화할 수 있다.
인공지능은 새로운 과학기술혁명과 산업변혁의 중요한 추진력량이고 큰 모형의 흥기는 인공지능응용의 깊이와 폭을 한층 더 넓혔다.바이두가 3월에 지식증강대언어모델 문심일언을 발표한 이래 지금까지 문심일언의 기초모델은 이미 문심대모델 4.0버전으로 교체되여 리해, 생성, 론리, 기억 등 4대 기초능력에서 모두 뚜렷이 제고되였다.회의에서 진양은 문심대모형이 안전분야에 응용되고 안전운영, 내용심사, APP 사생활합규검측, 업무풍력통제 등 여러 분야의 AI 원생응용구축구상과 실천을 공유하여 안전효률과 능력을 대폭 제고하는데 조력했다.
진양은 다음과 같이 표시했다. 어떻게 업종의 AI 원생안전응용연구개발의 효률을 제고할것인가도 아주 관건이다.현재 바이두의 선도적인 AI 대형 모델 플랫폼을 기반으로 바이두 안전은 바이두 AI 안전 베이스를 구축하였으며, 안전 지식과 기능 강화에 기반한 대형 모델과 전체 장면의 지능체는 각종 안전 업무 장면에 대해 낮은 코드의 방식으로 휴먼 컴퓨터 협동 안전 워크플로우를 실현하였으며, 나아가 AI 원생 안전 서비스 계층을 통해 각종 안전 응용이 모두 AI 원생화학 재구성을 진행할 수 있도록 하였다.
다른 한편으로 큰 모델 자체의 안전, 신뢰성, 통제 가능성이 매우 중요해지고 네트워크와 시스템 안전, 모델 알고리즘 안전, 데이터 안전과 프라이버시 보호, 내용 안전은 큰 모델의 전체 생명 주기에서 서로 연결되며 시스템 안전과 내생 안전은 장기적으로 공존할 것이다.
인공지능 선도기업으로서 바이두는 대형 모델 안전 위험 방비의 능력 건설과 생태 건설을 고도로 중시한다.바이두 대형 모델 안전 실천 경험을 바탕으로 바이두 안전은 대형 모델의 전체 생명 주기 시각에서 출발하여 서비스 제공자의 시각에서 출발하는 대응 사고방식을 총결한다. 방안은 대형 모델 훈련/정조/추리, 대형 모델 배치, 대형 모델 업무 운영 등 관건적인 단계를 포함한다. 전체 과정의 데이터 안전과 프라이버시 보호, 모델 보호, 내용 안전, 업무 운영 위험 통제를 포함하는 안전 제품과 서비스를 제공한다.동시에 공격으로 수비를 촉진하는 사고방식과 결합하여 AIGC 내용 안전 평가 능력을 구축하고, 큰 모델에 대해 정례화된 안전 평가를 실현하여 기업이 안정적이고 건강하며 신뢰할 수 있는 큰 모델 서비스를 구축하도록 돕는다.
예를 들어, 대형 모델 운영 단계에서 바이두 보안은 레드 라인 지식 라이브러리/레드 라인 대형 모델, prompt 심사와 개작, 다중 모드 내용 심사, 내용 안전 평가 등 일련의 보안 서비스를 구축했다.위법 범죄, 불량 가치관 등 부정적인 및 고위험 레드라인 문제에 대해"레드라인 지식 라이브러리와 레드라인 대형 모델"을 중점적으로 구축하여 안전한 회신 내용을 제공하여 대리 응답을 진행하고, 사용자에게 긍정적인 안내를 할 수 있다.Prompt에 대한 공격을 주입하면 초기 명령과 데이터를 그대로 유지하면서 Prompt를 덮어쓰는 방식으로 큰 모델이 안전한 내용을 출력할 수 있습니다.
알아본데 따르면 클라우드안전련맹 CSA 글로벌회원단위로서 바이두는 장기간 더욱 안전한 AI로 산업발전을 호위하고 지능클라우드컴퓨팅의 선단기술탐색과 실천을 적극 배치하여"인공지능 + 클라우드안전"의 융합혁신을 지속적으로 심화하는데 진력해왔다.회의에 참석하여 북경인공지능산업련맹 인공지능안전전문위원회 주임으로서 진양은 전문위원회를 대표하여 CSA 클라우드안전련맹과 정식으로 전략계약을 체결했다.앞으로 쌍방은 각자의 우세를 발휘하여 인공지능분야에서 련합연구, 공동선단기술과 응용분야의 발전을 전개하게 된다.
현재"큰 모델 + 안전"이 직면한 새로운 형세, 새로운 기회, 새로운 도전에 직면하여 바이두 안전은 한편으로는 인공지능 기술의 네트워크 안전 분야에서의 기술 혁신과 응용을 끊임없이 확장할 것이며, 다른 한편으로는 각계와 협력을 유지하여 큰 모델 안전 방어선을 함께 구축하고 더욱 안전한 큰 모델을 탐색하여 천행백업의 무한한 가능성을 부여할 것이다.