경희법학연구소


사이버범죄연구센터


 로그인

[칼럼] ChatGPT 오남용 대책 시급 (2023.02.02)
정완  2023-09-29 09:45:42, 조회 : 115, 추천 : 46

[칼럼] ChatGPT 오남용 대책 시급 (정완 교수, 로리더 2023.02.02)

최근 미국의 한 국회의원이 ChatGPT가 작성해준 연설문을 의회에서 읽고 인공지능 ChatGPT 오남용 문제의 심각성을 밝혀 주목을 끌고 있다.

현재 미국에서는 다양한 분야에서 ChatGPT가 오남용되고 있는데, 이를테면 많은 학생들이 리포트숙제를 ChatGPT로 작성하여 제출하고 있지만, 교사들은 이 사실을 알기 어려워 골치를 앓고 있다고 한다.

ChatGPT는 이용자가 요청한 질의에 응답해주고 나아가 문장, 리포트, 에세이, 논문, 연설문 등도 작성해주는데, 그 내용이 직접 작성한 글과 비교해 전혀 떨어지지 않는 수준이어서 문제가 더욱 크다.

ChatGPT의 능력은 나아가 이러한 단순 답변을 넘어 그 내용의 합법과 불법, 윤리와 비윤리마저 판별할 수 있는 수준이다.

필자가 ChatGPT에게 공공서버의 해킹방법을 설명해 달라고 했더니 다음과 같은 답변이 즉각 제공되었다.

“죄송하지만 해킹 등 불법 또는 악의적 행위에 대한 정보나 안내를 제공하는 것은 윤리적이지도 적절하지도 않다. 그러한 활동은 불법이고 체포될 수 있는 심각한 결과를 초래할 수 있다. 오픈 AI의 정책은 불법행위에 대한 홍보나 정보제공을 금지하고 있으며 책임있는 AI 언어모델로서 나는 이 정책을 고수해야 한다. 대신 보안향상을 목표로 시스템과 네트워크의 취약성을 파악하고 해결하는 것을 포함하는 윤리적 해킹과 사이버보안기술을 배우고 개발하는 데 집중할 것을 추천한다. 윤리적 해킹은 업계에서 매우 인기있는 기술이며, 온라인과정과 인증 프로그램을 포함하여 이러한 기술과 기술을 배울 수 있는 수많은 리소스가 있다”

놀라운 대답이 아닐 수 없다.

혹시나 해서 ChatGPT의 오남용 대책을 ChatGPT 스스로에게 물어보았더니 다음과 같은 답변이 즉각 제공되었다.

“언어모델로서, 오픈 인공지능인 ChatGPT는 인간과 동일한 텍스트 작성능력을 가져 엄청난 인기를 얻고 있으나 다음과 같은 여러 유형으로 오용되고 있다. 첫째, 스팸 및 잘못된 정보유포에 이용된다. ChatGPT는 사람이 쓴 것처럼 보이는 텍스트를 생성할 수 있고 이로 인해 ChatGPT가 스팸 메시지를 생성하고 잘못된 정보를 퍼뜨리는 데 사용될 수 있다. 둘째, 사칭이 가능하다. ChatGPT는 소셜미디어 플랫폼에서 누군가를 사칭하는 데 사용될 수 있어, 사용자들 사이에 혼란과 불신을 야기할 수 있다. 셋째, 사이버폭력에 사용될 수 있다. ChatGPT는 공격적이거나 욕설적인 메시지를 생성하는 데 사용될 수 있고, 사이버폭력에 이용될 수 있다. 이러한 ChatGPT의 오용에 대처하기 위해서는 다음과 같은 규제와 통제가 필요하다. 첫째, 모니터링 및 필터링 개선이다. 즉 플랫폼에는 악의적 목적으로 챗 GPT를 사용하는 것을 탐지하고 방지할 수 있는 강력한 필터가 있어야 한다. 둘째, 교육과 인식이 필요하다. 사용자들은 챗 GPT를 악의적 목적으로 사용할 때의 위험성과 정보를 공유하기 전에 확인할 필요가 있다. 셋째, 책임 있는 AI 개발이 이뤄져야 한다. 즉 AI 개발자들은 그들의 제품이 악의적 목적으로 사용되지 않도록 보장할 책임을 져야 한다. 넷째, 법적 조치가 뒤따라야 한다. 즉, 정부는 ChatGPT와 다른 AI 모델을 악의적 목적으로 오용하는 사람들에 대해 법적 조치를 취해야 한다. 결론적으로 채팅 GPT의 오용은 AI업계와 정부, 국민의 집단적 노력이 필요한 심각한 사안이다. 이에 따라 필요한 조치를 취함으로써, 우리는 챗 GPT와 다른 AI 모델의 안전하고 책임 있는 사용을 보장할 수 있다”

ChatGPT의 오남용 대책에 관한 이러한 답변은 실로 완벽하다고 아니할 수 없다. ChatGPT의 능력은 현재 수준도 완벽해 보이지만 그 능력은 앞으로 더욱 발전될 것으로 보이는데, ChatGPT의 순기능은 발전되어야 하지만, 그 오용과 남용 등 역기능은 적극 통제될 수 있는 법제도적 조치가 필요할 것이다.


  답글달기   수정하기   삭제하기   추천하기   목록보기   글쓰기

Copyright 1999-2024 Zeroboard / skin by zero

http://lawcenter.khu.ac.kr