양면 AI:위험 과 믿 을 수 있 는 게임,과학 기술 은 어떻게 선 을 향 해 나 아 갑 니까?

자율 주 행,AI 의료,산업 생산,그리고 우리 생활 의 다양한 분야 에서 AI 는 엄 청 난 변혁 부 능 의 잠재력 을 보 여주 고 있다.그러나 AI 응용의 폭 과 깊이 가 넓 어 지면 서 알고리즘 보안,데이터 차별,데이터 남용 등 여러 문제 도 일부 위험 과 위험 을 드 러 냈 다.인공지능 에 대한 신뢰 를 불 러 일 으 키 는 사고 다.

7 월 9 일 2021 세계 인공지능 대회 신뢰 AI 포럼 에서'신뢰 할 수 있 는 인공지능 발전 촉진 이 니 셔 티 브'(이하'이 니 셔 티 브')가 공식 발표 됐다.신뢰 할 수 있 는 AI 포럼 이 발의 한 이 이 니 셔 티 브 는 중국 신통 원,중국 과학원 자동화 연구소 중 영 인공지능 윤 리·거 버 넌 스 연구 센터,징 둥 탐사 연구원,앤 트 그룹 등 공동 발표 단위 다.

이 같은 제안 은 정 산 학 연 각계 가 국제 적 협 치 공감 대 형성 에 박 차 를 가 하고 신뢰 할 수 있 는 AI 에 대한 사회 적 이해 와 중 시 를 촉진 하 며 인공지능 의 산 업·사회 적 가 치 를 충분히 발굴 할 것 을 주창 하기 위 한 것 이다.오금 성 상하 이 시 경 제·정보 화 위원회 주임 은 21 세기 경제 보도 기자 들 에 게"신뢰 할 수 있 는 AI 를 발전 시 켜 인공지능 의 투명 하고 가시 적 이 며 안전 하고 통제 가능 하 며 다 원 화 된 포용 은 이미 전 세계 적 인 공감 대가 되 었 으 며 미래 인공지능 의 건전 한 발전 을 위해 반드시 거 쳐 야 할 길이 다"고 말 했다.

그 는 암호 화 기술,안전 다방면 계산,연방 학습 등 안전 기술 의 응용 을 추진 하 는 세 가지 방식 이 있다 고 생각한다.AI 기술 보안 특성 과 데이터 보호 능력 을 향상 시킨다.둘째,테스트 평가 체 계 를 구축 하 는 것 이다.신뢰 할 수 있 는 AI 관련 기준 을 보완 하고 혁신 적 인 테스트 평가 기술 을 개발 하 는 데 박 차 를 가 한다.셋째,제도 규범 의 보완 을 가속 화 하 는 것 이다.국가 관련 법률 과 상하 이 시의 지방 성 법규 틀 에서 생물 정보 안전,데이터 안전,개인 프라이버시 등 분야 의 법률 과 법 규 를 제정 하여 신뢰 할 수 있 는 AI 발전 을 제도 적 으로 보장 하도록 한다.

자율 주 행,AI 의료,산업 생산,그리고 우리 생활 의 다양한 분야 에서 AI 는 엄 청 난 변혁 부 능 의 잠재력 을 보 여주 고 있다.감준제

바람 통 제 는 더 이상 사람과 사람의 투쟁 이 아니다.

사실 우리 가 의사 결정 을 인공지능 에 맡 길 때 인공지능 은 먼저 자신 이 신뢰 할 만하 다 는 것 을 증명 해 야 한다.이에 따라 신뢰 할 수 있 는 연 구 는 글로벌 공감 대 를 형성 했다.

서 붕 공업 과 정보 화 부 과학기술 사 고기 술 처장 은 특히 인류의 생산 생활 과 밀접 한 관 계 를 가 진 안전 분야 의 위험 예방 과 도전,예 를 들 어 윤리 도덕,알고리즘,개인 정보의 남용 과 프라이버시 유출,그리고 상응하는 보호 문 제 는 현재 모두 가 주목 하 는 이 슈 중의 하나 라 고 말 했다.이 를 통 해 알 수 있 듯 이 인공지능 기초 안전 보장 체 계 를 구축 하고 신뢰 할 수 있 는 인공지능 의 건전 한 발전 을 추진 하 는 임무 가 매우 절실 하 다.

이 어"미래의 바람 통 제 는 더 이상 사람과 사람의 싸움 이 아니 라 AI 와 AI 의 게임 이 될 것"이 라 고 덧 붙 였 다.앤 트 그룹 부회장 인 수석 인공지능 과학자 칠 원 박 사 는 알 리 페 이에 서 매일 수 억 건 에 달 하 는 거래 의 배후 에서 공격 에 나선 것 은 이미 개인 투자가 아 닌 전문 적 인 조 폭 이 었 다 고 21 세기 경제 보도 기자 들 에 게 전 했다.

복잡 하고 변화무쌍 한 흑 산 공격 에 대응 하기 위해 어떻게 바람 제어 모델 의 타격 저항 능력 을 지속 적 으로 강화 해'마 가 한 자 높 고 도가 한 장 높다'고 할 수 있 느 냐 가 모든 AI 종사자 앞 에 놓 인 난제 로 떠 올 랐 다.

2018 년 부터 칠 원 은 일부 AI 기술 핵심 과 함께 인공지능 모델 링 알고리즘 에 경제학'게임 이론'을 융합 시 켜 AI 와 게임 대항 을 결합 시 켜 기계 가 자동 적 이 고 실시 간,동적 으로 자체 시스템 에 대한 안전성 공격 을 함으로써 모델 능력 을 향상 시 키 는 업계 의 새로운 기술 인'스마트 대항'을 개발 한 것 으로 알려 졌 다.모델 처리 결 과 를 더욱 정확하게 하 다.

이 기술 은 김 용 소설 속'양손 맞 붙 기'와 유사 하 다.위험 지식 에 대한 감 지·분 석·예측 능력 을 갖 추고 있 기 때문에 미래 에는 신뢰 할 수 있 는 AI 분야 의 핵심 안전기 술 이 될 것 으로 보인다.

쩡 이(曾 毅)중국 과학원 자동화 연구소 중 영 인공지능 윤 리·거 버 넌 스 연구 센터 장 은"믿 을 수 있 는 인공지능 시스템 은 온라인 연속 학습 과 수시 시정 능력 이 있어 야 한다"고 말 했다.기술 의 측면 에서 볼 때 최신 인공지능 기술 진전 모델 은 현재 로 서 는 모두 믿 을 수 없다.현재 인공지능 의 기술 은 아직 진정한 신뢰성 에 대해 이야기 하기에 충분 하지 않 기 때문에 그것 은 출발점 이다.또 믿 을 수 있 는 인공지능 은 기술 문제 뿐만 아니 라 사회 적 시각 도 있다."기술 부 를 어떻게 활용 하여 문 화 를 뛰 어 넘 는 상호 신뢰 를 가 질 수 있 는 지 제 가 보기 에는 믿 을 수 있 는 인공지능 이 할 수 밖 에 없 는 일,심지어 마지막 성공 의 관건 입 니 다."

시급히 업계 표준 을 세 워 야 한다.

디지털 경제 에서'리 스 크 방어'의 관건 인 신뢰 할 수 있 는 AI 기술 은 현재 앤 트 그룹 이 사기 방지,돈 세탁 반대,도박 반대,기업 연합 윈 드 컨트롤,데이터 프라이버시 보 호 를 포함 한 여러 윈 드 컨트롤 장면 에 안착 했다.

신뢰 AI 기술 은 금융 바람 제어 장면 외 에 도 데이터 프라이버시 보호,핀 테 크 서비스 등 다양한 분야 에 널리 활용 되 고 있다.올해 6 월 13 기 전인 대 상무위원회 제2 9 차 회의 에서 데이터 안전 법 을 포함 한 여러 법안 과 두 가지 결정 을 의결 했다.데이터 안전 법 제4 조 는 데이터 안전 을 유지 하려 면 전체적인 국가 안전 관 을 지 키 고 데이터 안전 관리 체 계 를 구축 하고 보완 하 며 데이터 안전 보장 능력 을 향상 시 켜 야 한다 고 주장 했다.

이 는 데이터 안전 이 전체적인 국가 안전 관 차원 으로 올 라 가 국가 안전 과 연결 되 었 음 을 상징 한다.각계 가 촉각 을 곤 두 세우 고 있다.

이 어"AI 든 과학기술 이 든 신뢰 할 수 있 는 방식 이 많은 데,안정성,해석 가능성,사생활 보호,형 평성 과 같은 것들 을 어떻게 종합해 통 일 된 공감 대 를 형성 할 것 인가"라 고 덧 붙 였 다.유럽 과학원 외국 국적 의 원사,호주 과학원 원사,시드니 대학 도 대 정 교 수 는 자신의 문 제 를 제기 했다.해석 성 이 부족 하기 때문에 인공지능 의 더욱 광범 위 한 응용 과 부 에 너 지 를 제한 했다.예 를 들 어 무인 운전 자가 도로 에서 상황 이 발생 한 후에 어떻게 책임 을 져 야 하 는 지 설명 할 수 없 기 때문에 운전 자 는 짧 은 몇 초 안에도로 에 대한 판단 이 생기다.

어느 정도 기준 이 부족 해 인공지능 의 응용 이 제 한 된 것 이다.도 대 정 은 더 나 아가 유럽 연합 의 GDPR 이 든 중국의 프라이버시 보호 조례 든 모두 사용자 가 데이터 사용 에 대해 더욱 신중 해 야 한 다 는 것 을 설명 하고 사용자 가 개인 정보 에 대한 보호 가 상당 한 권리 가 있다 는 것 을 설명 했다.상기 네 가지 능력 을 종합 한 후에 명확 한 책임 을 져 야 인공지능 을 믿 을 수 있 는 적당 한 방식 을 찾 을 수 있다.

인공지능 이 더 많은 분야 에서 중요 한 역할 을 하 는 것 은 분명 하 다.예 를 들 어 의료 진단,무인 운전 등 장면 에서 작은 알고리즘 이 잘못 되 어 치 명 적 인 재난 을 초래 할 수 있다.따라서 일정한 양 적 지표 와 업계 기준 을 제정 하고 제품 의 연구 개발,평가 과정 에서 더욱 엄격하게 평가 하고 규칙 을 따 를 수 있다.

스마트 시 대 는 가속 화 됐 고,과학기술 이 선 으로 향 하 는 것 은 과학기술 발전의 가장 근본 적 인 요지 다.'선 을 향 한 것 은 주로 두 가지 측면 을 말 하 는데,하 나 는 당신 의 의도 가 좋 은 것 입 니까?나 쁜 것 입 니까?다른 한편,당신 이 이 일 을 한 결 과 는 무엇 입 니까?"기술 의 발전 도 공평 한 문 제 를 가 져 왔 다.진정한 과학 기술 이 선 을 향 해 나 아 가 는 것 은 모든 사람 에 게 더 많은 발전 권 리 를 부여 하고 모든 사람 이 이 시 대 를 따라 갈 수 있 으 며 이 배당 과 보편적 인 혜택 을 누 려 야 한다."

그 가 보기 에는 한 기업 이 든 한 업 종이 든 신뢰 하면 책임 부터 시작 해 야 한다.좋 은 의도 만 이 좋 은 결 과 를 이 룰 수 있다.따라서 서로 영향 을 주 고 지지 하 며 의존 하 는 건강 하고 질서 있 게 생태 를 발전 시킨다.