민진 중앙은' 우리나라 인공지능 분야 윤리통치를 강화하는 제안' 을 정협 14 회 회의에 회부하여 심의할 계획이다.
민진중앙은 제안서에서 총 20 대 보고서가 인공지능 등 분야에서 새로운 성장 엔진을 만들자고 제안했다. 인공지능 기술의 급속한 발전에 따라 과학 기술의 윤리적 도전이 나날이 두드러지고 있다. 최근 인터넷을 뒤흔든 ChatGPT 는 인공지능 분야 윤리문제에 대한 국제사회의 관심을 다시 한 번 불러일으켰다. 중 국 사무소는' 과학기술윤리치치 강화에 대한 의견' 을 발행해 인공지능을 강화해야 할 중점 분야 중 하나로 꼽았다. 중국 인공지능 분야의 윤리통치는 여전히 많은 문제에 직면해 있다.
첫째, 시스템 구축은 상대적으로 뒤떨어져있다.
제도적으로 집행할 수 있는 법률과 규정이 상대적으로 부족하고, 규정 준수와 처벌의 최종선이 명확하지 않다. 경영에 있어서, 총괄계획 부족이 비교적 두드러지고, 의무분업이 명확하지 않으며, 윤리통치심사와 감독은 여전히 공백이다.
둘째, 역량 강화가 상대적으로 약하다.
우리나라 인공지능 분야의 윤리통치는 아직 초기 단계에 있으며, 인력 구성이 불합리하고, 윤리의식이 희박하며, 전문능력이 부족하며, 업무 규칙과 운영규범이 미비한 등의 문제가 있다. , 역량 강화는 더욱 강화되어야한다.
셋째, 기업 참여가 부족하다.
우리나라는 인공지능기업의 자주참여 윤리거버넌스 추진에 아직 초보적인 탐색 단계에 있으며, 기업 참여의 경계와 메커니즘에 대한 명확한 규정과 운영가능한 제도적 보장이 부족하며, 기업참여통치의 의지가 강하지 않고, 경험과 능력 부족 등의 문제에 직면해 있다.
솔루션:
첫 번째는 다당제 통치 체계를 구축하는 것이다.
공업과 정보화부가 주도하여 지도기관, 조직구조, 영역분업, 사회조화 등에서 인공지능 분야 윤리관리 최상위 아키텍처를 설계했다. 인공지능 응용체인 중 각 당사자가 이행해야 할 의무와 책임을 명확히 했다. 법규제도 건설을 추진하고, 법률 준수의 최종선을 명확히 하고, 데이터 남용과 개인 프라이버시 침해에 대한 처벌을 명확히 한다. 동시에 국가기준, 기업기준, 기업자율규칙 등' 소프트법' 방식을 통해 기업이 혁신에 순응하도록 유도한다. 인공지능기업전문가를 흡수해 전국과학기술윤리위원회 인공지능분위 위원으로 재직하며 기업이 기술혁신에서 직면한 윤리문제를 더 잘 연구하고 해결한다. 국가 차세대 인공지능통치전문위원회의 과학기술윤리상담역할을 충분히 발휘하여 기술발전에서 발생할 수 있는 윤리위험을 중심으로 사전 연구와 사전 판단을 진행한다. 국가 과학기술지고와 관련 연구력의 역할을 충분히 발휘하고, 시스템 연구와 비축 인공지능 윤리 문제를 충분히 발휘하여 의사 결정 상담 지원을 제공한다.
두 번째는 다차원, 다단계 윤리 건설을 하는 것이다.
전체 수명 주기의 가치에 민감한 설계를 수행하고, R&D 단계에서 신기술로 인해 발생할 수 있는 윤리적 문제를 분석하고, 근원에서 잠재적인 윤리적 위험을 통제합니다. 설계 및 제조 단계에서 신제품이 사회적으로 수용되는 비용과 수익을 도덕적으로 따져본다. 실험 보급 단계에서 사회적 가치 선택에 따라 신제품을 조정하고 신제품과 사회적 가치의 호환성을 높인다. 배포 및 적용 단계에서 신제품에 대한 사용자 승인 및 수용 정도를 분석하고 적용 과정에서 발생하는 윤리적 위험을 검토하고 반성합니다. 멀티 애플리케이션 시나리오에 대한 윤리적 규제를 해야 한다. 인공지능은 응용 시나리오에 따라 윤리적 문제와 업무 중점이 다르며, 그 윤리규제는 따로 연구해야 한다. 자동운전, 의료진단 등 일상적인 응용은 기업과 대중이 응용 시나리오 특성과 현실 윤리 문제에 따라 윤리규제를 해야 한다. 인공지능 기술이 군사대항에서의 응용으로 인한 윤리적 위험은 국제협정이 구속해야 한다. 분야 간 윤리 규제를 실시하고 인공지능과 다른 학과를 교차 응용하여 새로운 분야를 형성하는데, 예를 들면 인공지능과 신경기술이 교차해 뇌기관을 형성하는 등 각 교차 영역의 특징에 따라 차별화된 윤리조절 연구가 필요하다.
셋째, 기업이 거버넌스에 독립적으로 참여하도록 장려하십시오.
기업 윤리 거버넌스를 정의하는 원동력은 주로 윤리 규칙을 준수하는 기업이 되고 업계 내에서 기업 이미지를 확립하는 것이다. 기업의 제품은 기술적으로 경쟁력이 있어야 할 뿐만 아니라 윤리적으로 소비자와 업계의 신뢰를 얻어야 한다. 전 세계적으로 책임있는 신기술을 도입하여 인공지능의 발전 방향을 선도하다. 기업 윤리 의식 육성, 기업 임원 인공지능 윤리 훈련 및 학습 강화, 윤리 인식 및 판단 능력 향상 기술 R&D 인력의 경우, 책임 있는 기술 R&D 를 장려하고' 성실성, 책임' 이라는 도덕관념을 수립합니다. Microsoft 와 같은 국제 인공지능기업이 윤리위원회를 설립한 경험을 바탕으로 기업 내 윤리위원회 설립을 지원하고 인공지능이 가져올 수 있는 통제불능, 침해, 차별, 책임 등의 위험을 검토하여 독립적으로 업무를 수행하는 데 필요한 조건을 제공한다.