J Korean Biol Nurs Sci > Volume 25(3); 2023 > Article
ChatGPT의 기초간호학교육 활용 가능성 평가

Abstract

Purpose
The purpose of this study was to evaluate the applicability of ChatGPT in biological nursing science education.
Methods
This study was conducted by entering questions about the field of biological nursing science into ChatGPT versions GPT-3.5 and GPT-4 and evaluating the answers. Three questions each related to microbiology and pharmacology were entered, and the generated content was analyzed to determine its applicability to the field of biological nursing science. The questions were of a level that could be presented to nursing students as written test questions.
Results
The answers generated in English had 100.0% accuracy in both GPT-3.5 and GPT-4. For the sentences generated in Korean, the accuracy rate of GPT-3.5 was 62.7%, and that of GPT-4 was 100.0%. The total number of Korean sentences in GPT-3.5 was 51, while the total number of Korean sentences in GPT-4 was 68. Likewise, the total number of English sentences in GPT-3.5 was 70, while the total number of English sentences in GPT-4 was 75. This showed that even for the same Korean or English question, GPT-4 tended to be more detailed than GPT-3.5.
Conclusion
This study confirmed the advantages of ChatGPT as a tool to improve understanding of various complex concepts in the field of biological nursing science. However, as the answers were based on data collected up to 2021, a guideline reflecting the most up-to-date information is needed. Further research is needed to develop a reliable and valid scale to evaluate ChatGPT’s responses.

서론

1. 연구의 필요성

4차 산업혁명 시대의 핵심기술은 인공지능(artificial intelligent, AI)과 ICBM의 결합으로, ICBM이란 사물인터넷(Internet of Things, IoT) 센서를 통해 수집된 자료를 클라우드(Cloud)에 저장하고, 축적된 빅 데이터(Big data)를 분석하여 적합한 서비스를 모바일 기기 서비스(Mobile) 형태로 제공하는 것을 말한다[1]. 4차 산업혁명으로 인한 기술의 발전이 두드러지는 가운데, 2022년 11월 30일 대화형 인공지능 챗봇인 ChatGPT가 일반 대중들에게 공개되었으며 출시된지 5일 만에 100만명이 사용할 만큼[2] 전 세계적으로 관심이 집중되고 있다. ChatGPT는 Elon Musk와 실리콘밸리의 투자자들이 2015년 공동설립한 OpenAI에서 개발되었다[3]. GPT는 Generative Pre-trained Transformer의 약자로, 사전 훈련된 알고리즘을 사용하여 텍스트를 생성한다는 것을 의미한다[4].
ChatGPT는 GPT-3 버전에 강화학습을 적용해 더욱 업그레이드된 GPT-3.5 버전을 기반으로 개발되었다[5]. ChatGPT는 사용자가 작성한 질문에 응답하고, 에세이를 작성하며, 언어를 번역하거나, 프로그램의 코드를 생성할 수 있다[3]. 즉, 생성(Generative) AI인 ChatGPT는 스스로 학습하는 알고리즘을 바탕으로 새로운 글, 이미지나 영상을 생성하며, 대용량의 자료를 학습하기 때문에 초거대 AI라고도 불리운다[2]. 또한 대화 방식을 통해 상호작용하며 자연스러운 맥락으로 답변을 제공하므로, 질문과 관련된 웹사이트 목록을 제공하는 Google 검색과는 차이가 있어[3], 전통적인 검색 엔진의 경쟁력이 사라질 것으로 우려되기도 한다[6]. 또한 기존 GPT-3보다 더욱 업그레이드된 GPT-4가 2023년 3월 14일 공개되었다[7]. 우리 뇌의 시냅스의 역할을 담당하는 GPT의 매개변수는 GPT의 성능을 결정하는데[6], 매개변수가 1,750억개로 알려진 GPT-3과 비교했을 때 GPT-4의 매개변수는 수 조개로 추정되면서[7], 기존의 대규모 언어모델을 능가하는 성능을 가진 것으로 보고되었다[8]. 이는 실제 GPT-3.5와 GPT-4의 성능을 비교한 보고서를 통해 확인할 수 있는데, OpenAI 연구팀이 작성한 보고서에서 GPT-4는 모의 변호사 시험에서 응시자의 상위 10%에 해당하는 점수를 얻었고 이는 하위 10%에 해당한 GPT-3.5와 비교했을 때 훨씬 우수한 성적이었다[8]. 이처럼 전 세계적으로 많은 관심을 받는 ChatGPT는 다양한 영역에서 활용할 수 있는데, 이미 논문의 공동 교신저자로 등재된 것뿐 아니라[9], 프로그램 코드를 짜거나 다양한 언어의 번역, 작문, 연설문 작성, 영화 시나리오 등의 콘텐츠 제작 등[6,10] 활용방안은 무궁무진하다.
한편 ChatGPT는 2021년 9월까지 학습한 자료를 바탕으로 응답하므로 2023년도 현재 기준으로 잘못된 정보를 제시하기도 한다[11]. 그럼에도 불구하고 ChatGPT가 생성한 응답들은 교육이나 학습 분야에도 많이 활용될 수 있으며 특히 주요 학습자들인 학생들의 관점에서 학습활동의 산물인 리포트나 각종 에세이 등을 ChatGPT를 활용하여 쉽게 작성할 수 있다는 점에서 학생들이 큰 관심을 가지고 있다[12].
ChatGPT가 실제 교육에 활용되기 위해서는, ChatGPT가 제공하는 답변이 학문적으로 타당하고 신뢰할만한지, 즉 그 답변의 정확성에 대한 평가가 선행되어야 할 필요가 있다. 특히, 대상자의 건강과 생명과 관련된 학문인 간호학 분야에서는 특히 ChatGPT의 교육에의 활용 가능성에 대한 평가가 매우 중요하며, 이에 대한 평가를 통해 미래의 간호 전문직 의료인인 간호대학생들에게 ChatGPT에 대한 무조건적인 사용금지 전략이 아닌 적절한 사용 지침 등을 제공할 필요가 있다[13]. 이를 위해서는 간호대학생을 가르치는 교수자들 또한 ChatGPT에 관한 관심과 간호교육에의 활용 가능성에 대한 숙고가 먼저 선행되어야 할 필요가 있다.
최근 교육 분야에서 ChatGPT 관련 연구는 초기로서[11,14], 특히 국내 간호학 분야에서는 연구를 찾아보기 힘든 실정이다. 기초간호학을 학습하는 간호대학생이 ChatGPT를 활용할 경우 기초간호학 분야의 개념을 이해하고 지식을 확장하며 학습을 돕는 도구로서 활용할 수 있을 것으로 여겨진다. 이에, 본 연구에서는 본 연구팀이 개발한 간호학 분야 질문에 대해 ChatGPT가 생성한 응답을 파악하고, 그 응답에 대한 정확도를 평가해봄으로써 ChatGPT의 기초간호학 교육에의 적용 가능성을 확인해보고자 한다.

2. 연구 목적

본 연구의 목적은 ChatGPT의 기초간호학 교육에의 활용가능성을 평가하는 것으로 구체적인 목적은 다음과 같다. 첫째, GPT-3.5와 GPT-4의 특성을 확인한다. 둘째, 한국어와 영어로 질문한 기초간호학 관련 질문들에 대해 각각 GPT-3.5와 GPT-4가 생성한 답변을 확인한다. 셋째, GPT-3.5와 GPT-4가 생성한 답변에 대하여 언어와 버전에 따른 정확도를 평가한다.

연구 방법

1. 연구 설계

본 연구는 ChatGPT에게 기초간호학 분야의 질문을 입력하고, ChatGPT가 생성한 내용을 분석함으로써, 기초간호학 분야에의 적용 가능성을 파악하기 위해 시행한 탐색적 연구이다.

2. 연구 대상

본 연구의 대상은 ChatGPT가 기초간호학 분야 중 미생물학 및 약리학에 대한 총 6가지 질문에 대해 생성한 답변이다. 질문 6개는 미생물에 대한 질문 3개, 약리학에 대한 질문 3개이다. 본 연구에서 사용한 질문을 선정하기 위해 기초간호학을 배우는 간호대학생이라면 기본적으로 알아야 하는 내용을 선별하였다. 이에 본 연구팀은 기초간호학 교과목의 표준강의계획서[15]에 제시된 내용을 바탕으로 여러 차례 회의를 하였으며, 최종적으로 시험 볼 때 서술형으로 낼 수 있는 수준의 질문을 선정하였다. 구체적으로 질문은 ChatGPT에 각각 한국어와 영어로 입력하였다. 한국어로 질문 입력시 존댓말 대신 ChatGPT를 이용할 간호대학생이 주로 사용할만한 말투로 사용하였다. 예를 들어 ‘~하시오.’ 또는 ‘~해주세요.’의 표현 대신 ‘~해줘.’ 또는 ‘~을 알려줘.’ 의 표현을 사용하였다. 영어 질문은 Google translate에 한국어를 입력한 후, 번역된 영어를 그대로 사용하였다. ChatGPT에 입력한 질문목록 및 답변은 부록 1과 같다.

3. 연구 도구

본 연구에서는 기초간호학 관련 질문을 생성하기 위하여 GPT-3.5 [16]와 GPT-4 [17]를 이용하였으며, 이 외에도 ChatGPT가 생성한 답변들을 분석하기 위하여 답변 분석틀을 구성하여 활용하였다. 답변 분석틀은 연구팀에서 만들어 사용하였으며, 구체적인 항목은 ChatGPT 버전, 질문언어, 전체 문장 수, 정확한 문장 수, 잘못된 문장 수의 항목으로 구성하였다.

4. 자료 수집

ChatGPT [16,17](version. Mar 23)를 이용하였다. 먼저 무료버전인 GPT-3.5를 통해 2023년 4월 4일과 4월 7일에 검색을 시행하였다. 유료버전은 GPT-4를 통해 2023년 4월 28일에 검색을 실시하였다. ChatGPT 이용을 위해 마이크로소프트사의 엣지(edge) 브라우저를 이용하였고, 접속한 URL 주소는 https://chat.openai.com/chat이다. 이용을 위해 기존에 생성된 연구자 개인의 구글(google) 아이디로 로그인한 후 이용하였으며 GPT-3.5는 무료로, GPT-4는 한달 이용료 20 달러를 지불한 후 유료로 이용하였다.

5. 자료 분석

본 연구팀은 간호학 교수 2인과 간호학 박사수료(재학)생 2인으로 구성되었다. 간호학 교수 2인은 2023년 1학기 기준으로 현재 간호대학에서 미생물학과 약리학을 강의하고 있거나, 다년간 강의한 경험이 있으며, 간호학 박사수료생 1인과 박사과정생 1인은 평균 임상경력 14년의 현직 간호사들로서, 이들 연구팀은 모두 미생물학과 약리학에 대한 경험과 지식이 풍부하다. 본 연구팀은 GPT-3.5와 GPT-4가 생성한 한글과 영문 답변을 여러 번 읽고 지식백과 등 신뢰할수 있는 자료들의 내용과 비교·분석하는 과정을 통해 각 질문의 전체 답변에 대한 정확도를 평가하였으며, 정확도 평가의 단위는 문장(sentence)으로 하였다. 이러한 과정을 통해 전체 문장들 중 정확한 문장의 비율을 산출하여 이를 문장의 정확도로 제시하였다.

6. 윤리적 고려

본 연구는 전북대학교 기관생명윤리위원회의 승인을 취득한 후 시행하였다(IRB No. JBNU 2023-04-005-001).

연구 결과

1. GPT-3.5와 GPT-4의 특성

GPT-3.5와 GPT-4의 특성을 비교한 결과는 Table 1과 같다. GPT-3.5의 출시일은 2022년 11월 30일이고, GPT-4의 출시일은 2023년 3월 14일이다. GPT-3.5는 무료로 사용할 수 있지만, GPT-4은 한 달에 20 달러 사용료를 지불해야 사용할 수 있다. GPT-3.5와 GPT-4는 두 개 버전 모두 2021년 9월까지의 정보를 바탕으로 한다. 그러나 45 TB 크기의 인터넷 텍스트 데이터 학습량을 지닌 GPT-3.5에 비해 GPT-4는 500 TB 인터넷 텍스트 데이터 학습을 할 수 있다. GPT-3.5는 1,750억개의 매개변수를 학습하는데, GPT-4는 1조개의 매개변수를 학습한다. ‘텍스트-한정 모델’(text-only model)인 GPT-3.5에서 GPT-4는 ‘복합양상 모델’(multimodal model)로 발전하였다. 즉 글자, 소리, 이미지, 영상을 입력받아 이를 복합적으로 처리하여 시청각 내용을 생성해 낼 수 있는 모델로 발전하였다. 다음으로 답변 안정성이 향상되었다. GPT-3.5는 범죄나 해킹 등 비윤리적인 분야에 대한 답변까지 제공했으나, GPT-4는 윤리적이지 못한 질문에 답하는 비율이 82.0%까지 줄었다. 메모리는 8,000개의 어휘에서 64,000개의 어휘를 기억할 수 있게 되었으며 주로 영어를 사용하던 GPT-3.5에 비해 GPT-4는 향상된 다국어 기능, 즉 영어를 제외한 25개 언어로 작업할 수 있다. 또한 텍스트만 입력 가능했던 GPT-3.5와는 달리 GPT-4는 텍스트 이외의 시각적 입력이 가능하다. 토큰의 개수도 차이가 나는데, 토큰이란 한 세션에서 문맥을 기억하는 한계량으로 질문이 길면 정해진 토큰으로 인해 답변이 짧아지게 된다. GPT-3.5는 4,096개의 토큰을 가지고 있으며, GPT-4는 32,768개의 토큰을 가지고 있다는 차이점이 있다.

2. GPT-3.5와 GPT-4의 생성 답변 확인

본 연구에서 GPT-3.5와 GPT-4에 각각 질문을 입력하여 생성된 답변은 부록 1과 같다.

3. GPT-3.5와 GPT-4의 생성 답변 정확도 평가

GPT-3.5가 생성한 국문과 영문 답변, GPT-4가 생성한 국문과 영문 답변의 정확도 결과는 Table 2, Figure 1과 같다. 즉, 총 6개의 질문에 대하여, 무료버전인 GPT-3.5의 경우에는 한국어로 입력시 한국어 답변의 정확도는 평균 62.7%였으며, 영어로 입력시 영어 답변의 정확도는 평균 100.0%였다. 반면에 유료버전인 GPT-4의 경우에는 입력언어가 한글과 영어인 경우에 모두 답변의 정확도가 평균 100.0%로 나타났다. 또한 GPT-4 영문 답변이 제공한 참고문헌은 실제로 존재하는 문헌이었으나, GPT-3.5의 답변에서 제시한 참고문헌 일부는 존재하지 않는 문헌이었다.

논의

본 연구는 기초간호학 분야 중 미생물학 및 약리학에 대해 본 연구팀이 개발한 질문을 무료버전인 GPT-3.5와 유료버전인 GPT-4에 각각 입력한 후 생성된 답변을 평가하였다. 인공지능의 성능을 평가할 수 있는 여러가지 평가기준이 있으나, 기초간호학 분야와 관련된 생명과학분야에서 가장 중요한 평가지표는 정확성이기에, 본 연구에서는 두 가지 버전의 GPT가 생성한 답변의 정확도를 중심으로 비교 평가하였다.
먼저 GPT-3.5와 GPT-4의 일반적인 특성은 다음과 같은 차이가 있었다. GPT-3.5가 3,072개 어휘(토큰: 4,096개)를 기억하여 대답하고, 텍스트만 검색하는 것이 가능하였다면, ChatGPT-4는 24,576개 어휘(토큰: 32,768개)를 기억하여 대답할 수 있으며, 이미지 검색이 가능하고, 추론까지 가능하여 보다 정교해지고 지식 또한 향상되었다[18,19]. GPT-3.5와 GPT-4가 생성한 답변을 비교분석하였을 때 영문으로 생성된 답변의 경우 문장 일치도와 정확도가 GPT-3.5와 GPT-4 모두 100.0%였으나, GPT-3.5가 국문으로 생성한 문장에서는 정확도가 62.7%에 불과하였다. 반면 GPT-4가 국문으로 생성한 답변에서는 문장 일치도와 정확도가 100.0%인 것으로 나타나 무료버전인 GPT-3.5를 사용하는 경우 질문 입력 시 영어 질문을 하는 경우 정확성이 더 높을 것으로 사료된다. 추가로 GPT-3.5의 한국어 답변은 총 51문장이었으나 GPT-4의 한국어 문장은 총 68문장이었고, GPT-3.5의 영어 답변은 총 70문장이었으나 GPT-4의 영어 답변은 총 75문장이었다. 이는 동일한 한국어 또는 영어 질문이어도 GPT-3.5에 비해 GPT-4가 더 자세하게 설명하는 경향이 있다는 것을 알 수 있다.
본 연구에서 GPT-3.5와 GPT-4 각각에서 첫 번째로 한 질문은 ‘그람염색 방법에 대해 A4 한 페이지로 설명해줘’라는 질문이다. 이에 GPT-3.5와 GPT-4의 한국어 답변을 비교한 결과는 다음과 같다. GPT-3.5는 머리염색법에 관한 내용을 생성하였으나, GPT-4는 세균감별에 관한 내용을 생성하였다. 그람염색법은 세균의 세포벽 차이에 따라 그람양성균과 그람음성균을 분류하기 위해 널리 사용되는 방법으로[20] GPT-4는 이와 관련된 명확한 답변을 생성했지만, GPT-3.5는 전혀 관계없는 정보를 마치 사실인 것처럼 제공하였다. 이는 ChatGPT가 이용되는 법률, 연구, 학술출판 등의 분야에서 부정확하거나 불완전한 정보를 제공한다는 국내외 자료들을 통해서도 확인할 수 있다[11,21,22]. 이에 ChatGPT를 개발한 OpenAI에서는 GPT-4를 개발하며 사실이 아니지만 마치 사실인 것처럼 답변하는 환각(hallucination)을 개선하기 위해 노력하고 있으며, 이를 통해 직전 모델인 GPT-3.5보다 19.0% 향상된 결과를 보였으나 아직까지 여전히 모든 답변을 완전히 신뢰할 수는 없다고 언급하였다[8]. 이에 ChatGPT가 제공하는 내용은 아직 100% 신뢰하기 어려운 것으로 보이며, 따라서 간호대학생이 과제 수행이나 보고서 작성 시 ChatGPT를 이용하는 경우 인공지능이 제공하는 정보를 맹목적으로 신뢰하는 대신, 학습을 위한 유익한 도구로써 지혜롭게 활용해 나갈 필요가 있겠다.
두 번째로 ‘고압증기멸균에 대해 한 단락으로 설명해줘’라는 질문에 GPT-3.5와 GPT-4의 한국어 답변을 비교한 결과는 다음과 같다. 먼저 GPT-3.5에서는 고압과 높은 온도를 이용하여 살균하는 방법이라고 언급하는 수준에 그쳤으나, GPT-4는 온도와 압력의 구체적인 수치까지 상세하게 제시하였다. 또한 고압과 고온을 이용한 고압증기멸균에 적절하지 않은 품목으로 플라스틱을 언급하는 등 GPT-4가 생성한 답변의 내용이 더 풍부하고 자세하였다. 이는 GPT-4가 이전 모델을 능가하며, 특히 한국어 답변의 정확도가 77.0% (cf. 영어 답변의 정확도 85.5%)로 나타난 결과와 맥락을 같이 한다[8]. 이는 간호대학생이 과제 수행이나 보고서 작성, 전공과 관련된 공부를 수행하기 위해 GPT-4를 활용하는 경우, 지식의 구조화, 분석, 정리 등을 수행해주는 효과가 있으므로 자료수집에 필요한 시간과 노력을 경감시켜 줄 수 있을 것으로 여겨진다. 즉, 학습을 위해 스스로 자료를 찾아 분석하고 정리하던 수고를 줄여줄 수 있으며 이러한 ChatGPT의 장점을 활용하여 더욱 능동적으로 이용할 수 있도록 국내 한 대학에서는 ChatGPT의 이용방안에 대한 가이드라인을 제공하기도 하였다[23].
세 번째로 ‘세포매개성 면역에 대해 200자로 설명하고, 참고문헌을 알려줘’라는 질문에 GPT-3.5와 GPT-4의 한국어와 영어 답변을 비교한 결과는 다음과 같다. 먼저 200자로 답변을 생성해달라는 한국어 질문에 대해 GPT-3.5와 GPT-4가 생성한 단어 수는 각각 75개, 36개였으나 영어로 요청한 경우의 단어 수는 각각 203개, 181개로 나타나, 영문으로 200 words라고 요청한 경우에만 단어의 수를 유사하게 맞춰서 생성하였다. 이는 ChatGPT에게 질문을 하는 과정에서 사용자가 원하는 구체적인 조건을 영어로 이용하여 입력하는 경우, 한국어로 입력하는 것보다 원하는 내용에 더욱 근접한 답변을 얻을 수 있을 것으로 여겨진다. 한편 생성된 답변에서 제시된 참고문헌 중, GPT-3.5에서 제공한 참고문헌 일부는 존재하지 않는 문헌이었으며, 이는 GPT-4가 한국어와 영어 답변을 통해 제공한 참고문헌이 모두 실재하는 문헌으로 나타난 결과와 차이가 있다. 따라서 간호대학생이 ChatGPT를 통해 제공된 내용을 이용할 때 생성된 내용 및 참고문헌의 사실 여부를 파악할 필요가 있으며, 생성된 내용을 맹목적으로 추종하는 대신, 전반적인 방향성을 확인하는 용도로 사용해야 할 것이다.
네 번째로 ‘결핵의 치료약에 대해 A4 반 페이지로 설명해줘’라는 질문에 GPT-3.5와 GPT-4의 한국어와 영어 답변을 비교한 결과는 다음과 같다. 먼저 GPT-3.5의 경우 결핵약의 명칭이 한국어보다 영어로 출력된 답변이 명확하였다. 한국어 답변의 경우 라이프암피신, 에티오페이드는 대한민국의 의약품정보 검색 사이트[24]에서 검색되지 않았다. 반면, GPT-4가 한국어와 영어로 생성한 답변은 대표적인 결핵약이라 할 수 있는 네 가지 약의 약어가 모두 같았다. 이에 간호대학생이 GPT-4를 사용하여 간호과정 등의 과제를 수행하는 경우 한국어로 질문을 하더라도, 영어로 질문한 경우와 유사한 수준의 답변을 제공받을 수 있을 것이라 기대할 수 있다. 한편 무료버전인 GPT-3.5를 이용하는 간호대학생은, 생성된 답변이 다소 부정확한 측면이 있으므로 이를 비판적으로 판단하지 않고 사용하게 된다면 간호 대상자에게 잘못된 정보와 간호를 제공할 수 있음을 인식해야 할 것이다. 또한 제시된 참고문헌 중 WHO의 자료는 출판 연도가 잘못 기재되어 있었다. 따라서 생성된 자료의 제시된 출처를 확인하지 않고 그대로 이용한다면, 해당 자료를 사용할 또 다른 사용자에게 의도치 않게 오류 생성을 유도할 수 있으므로[25] 간호대학생은 인공지능이 생성한 자료를 이용할 때 비판적인 시각을 견지해야 할 것이다.
다섯 번째로 ‘NSAIDs의 대표적인 약과 작용기전에 대해 설명해줘’라는 질문에 GPT-3.5와 GPT-4의 한국어와 영어 답변을 비교한 결과는 다음과 같다. 먼저 GPT-3.5가 생성한 한국어 답변에서 실제 NSAIDs계열로 분류되지 않는 아세트아미노펜을 NSAIDs라고 언급하였다. 한편 GPT-3.5가 생성한 영어 답변에서는 NSAIDs 약물로 아세트아미노펜은 작성되지 않은 대신, 명확하게 NSAIDs인 약물만이 제시되었다. 이에, 한국의 간호대학생이 ChatGPT의 GPT-3.5를 보다 효과적으로 활용하기 위해서는 먼저 한국어로 질문을 작성한 다음, 이를 영어로 번역하여 ChatGPT에 입력하고, 이를 다시 한국어로 번역하여 이용하는 것이[11] 더 정확한 정보를 획득하기에 용이할 것으로 보인다.
여섯 번째로 ‘안지오텐신 전환효소 억제제의 종류와 작용기전에 대해 설명해주고 참고문헌을 알려줘’라는 질문에 GPT-3.5와 GPT-4의 한국어와 영어 답변을 비교한 결과는 다음과 같다. GPT-3.5는 안지오텐신 전환효소의 작용기전에 대해 일부 부정확한 내용을 생성하였으나 GPT-4는 한국어와 영어 답변 모두 정확한 작용기전을 제시하였다. 이에 ChatGPT가 생성한 내용이 마치 사실인 것처럼 작성되었어도, 이에 대해 추가적인 검토과정이 필요하다. 또한 ChatGPT가 생성하는 내용은 현실적이며 구체적인 날짜와 수치까지 제공해주고 있으므로 실제 존재하는 사실인 것처럼 답변을 생성하므로[26], 결국 간호대학생이 사용해야 하는 최종적인 정보는 인공지능이 아닌 인간의 수준에서 검토하고 이용되어야 하며 최종 완성본에 대한 책임은 결국 저자에게 있다는 것[27]을 명심해야 할 것이다.
지금까지 미생물학 및 약리학 질문에 대해 GPT-3.5와 GPT-4가 제공한 답변을 평가하고 ChatGPT를 간호대학생이 학업에 적용할 때 유의해야 할 사항을 확인하였으며, 이를 바탕으로 ChatGPT를 사용하거나 이에 대한 사용을 지도해야 할 책임이 있는 교수자는 다음의 사항들을 고려해야 할 필요가 있다. 즉, ChatGPT를 이용하는 간호대학생은 효율성과 시간 절약의 장점을 이용할 수 있지만, 부정확한 내용을 제공받을 수 있다는 점을 인지하고 정확성을 확인하는데 주의를 기울여야 한다[28,29]. 또한 ChatGPT는 신뢰할 수 있는 참조, 인용을 생성하는 기능이 제한되어 있으므로, 참고문헌을 빠르게 생성하긴 할지라도 이에 대한 진위여부를 확인할 수 있는 능력이 없으므로 인용이 부정확한 경우가 많다[28,29]. 이와 같은 부적절한 정보제공은 신뢰성과 정확성을 중요하게 생각하는 학문 분야에 위협이 될 수 있으므로, ChatGPT를 효과적으로 활용하기 위해서는 이러한 오류를 감지할 수 있는 충분한 지식을 보유해야 할 필요가 있다[28]. 최근 ChatGPT로 작성한 글을 선별하는 프로그램[30]이나 AI로 만든 글을 판별하는 클래시파이어(Classifier)가 출시되어[30], 의심가는 글을 넣으면 AI가 생성하였는지, 또는 불분명한지 등을 다섯 단계로 구분해주기 때문에 간호교육자는 위의 도구들을 간호대학생의 과제 평가에 활용하는 것 또한 고려해 볼 필요가 있다.
ChatGPT가 생성한 자료는 그동안 훈련받은 자료에 의한 것이며, 만일 자료 자체에 편향이 있다면 매우 사실적인 거짓 자료를 생성할 가능성이 있으므로[31], 간호대학생에게 생성된 내용에 대한 비판적이고 윤리적인 자세를 갖추도록 안내해야 할 것이다. 또한 쉽고 빠르게 정보를 얻을 수 있으므로 간호대학생들이 과제를 수행할 때 많은 도움을 받을 수 있으나, 현재 ChatGPT가 학습한 내용은 2021년까지의 자료이므로, 최신 정보를 제공, 요약하는 기능이 제한되며, 과거에 수집하여 학습한 자료를 기반으로 답변한다는 것을 인식시켜줄 필요가 있다. 따라서 ChatGPT를 통해 즉각적인 정보는 획득할 수 있으나, 간호 및 의료분야의 지식은 빠른 속도로 변화하고 있으므로, 환자의 건강결과를 향상시키기 위해서는 가능한 최신 지견이 반영된 간호 서비스를 제공해야 할 필요가 있다. 간호대학생들이 학습을 수행함에 있어 실시간으로 업데이트되는 최신의 정보를 반영한 학습이 이루어질 수 있도록 교수자는 학습에 대한 가이드를 제공할 필요가 있으며, 간호대학생 또한 인공지능 챗봇 또는 검색엔진에만 의존하지 않고 스스로 탐구하는 자세를 가질 수 있도록 격려해야 할 것이다. ChatGPT는 복잡한 임상환경과 환자에 대한 사례 연구와 같은 상황과 의학용어나 전문용어를 완전히 이해하는데 한계가 있다. 따라서 ChatGPT의 잘못된 맥락의 이해와 의학용어의 잘못된 해석 등의 제한점을 간호대학생, 교수자는 인식하여야 할 것이다[29].
최근 의학분야에서 출판된 GhatGPT 사용에 대한 리뷰연구[32]에 의하면 ChatGPT는 정확한 데이터 분석을 통해 약물개발을 비롯한 의료 보고의 개선, 치료 및 의료 정보의 제공, 건강 관련 주제에 대한 문헌 검토 작성, 연구수행, 개인 맞춤의료에 적용가능한 것으로 제시되고 있다. 따라서 추후 임상간호에도 활용해볼 수 있을 것으로 생각된다. 그리고 의학교육에서 ChatGPT의 장단점을 제시한 scoping review에 의하면[33], ChatGPT는 일관된 문법으로 올바른 문장을 생성할 수 있기 때문에 과제 및 연구논문 작성에 도움이 되며, 정보에 대한 빠른 액세스 제공과 개인화된 학습을 개선할 수 있고, 정보처리 및 데이터 분석 속도가 향상되기에 학습촉진을 위한 새로운 콘텐츠 생성, 언어번역, 자동채점에 적용할 수 있는 반면, 부정확한 정보를 제공할 위험이 있으며, 윤리 및 투명성 문제, 조작된 참고문헌 제시 등의 단점이 제시되었다. 또한 최근 간호학 분야에서 발표된 논문 중 ChatGPT를 공동저자로 기재하였다가[34], ChatGPT는 저자자격이 없다는 출판사의 판단에 따라 공동저자에서 제외되었다[35]. 즉, Elsevier 출판사는 Guide for Author의 Declaration of generative AI in scientific writing을 통해 연구에 있어 AI를 이용하는 것이 부정확하거나 불완전하거나 치우친 결과를 가져올 수 있으므로 AI는 저자로 기재할 수 없다는 것을 명시하였다[21]. 이는 연구 및 학술논문 출판과 관련하여 인공지능의 역할을 엄중하게 바라보고 있다는 것을 의미하며, 이에 논문의 저자들은 논문을 작성하면서 인공지능의 도움을 받았을 경우 이에 대한 투명한 보고가 필요하다[28]. 따라서 간호대학생 때부터 인공지능이 생성한 내용의 윤리적인 사용에 대한 교육 방안이 마련되어야 할 필요가 있다. 현재까지 많은 대학에서 ChatGPT 사용을 최소화하기 위해서 다양한 전략들을 마련하고 있는데 예를 들어 연세대학교는 교양과목 작문 수업에서 ChatGPT 표절과제를 0점 처리하기도 하고[36], 에세이 과제를 다른 형태의 과제로 변경하기도 하였다[37]. 중앙대학교 사회과학대도 표절교육 후 ‘ChatGPT 표절 않겠다’는 서약서 제출을 의무화하였으나[36], 서울대학교 인문대 일부 학과에서는 ChatGPT 질문법을 강의에 포함하기도 하였다[36]. 또한 국내 많은 대학에서는 ChatGPT 활용 가이드라인을 배포하고 있다[38]. 이처럼 많은 대학들은 ChatGPT의 사용 허용 또는 불가 사이에서 고민하기도 하면서 학생들에게 서약서를 받거나 관련 가이드라인을 작성하기도 하며 많은 혼란을 겪고 있으나, 간호교육 차원에서는 무조건적인 금지보다는 학생들의 간호역량 향상이나 4차 산업혁명 시기에 ChatGPT를 좋은 도구로서 활용할 수 있도록 하는 전략을 마련할 필요가 있다. 특히 주의해야 할 사항은, 간호대학생이 간호과정 등 실습과정에서 이루어지는 환자케이스 작성을 위해 환자의 개인정보를 포함한 사항을 ChatGPT에 입력하는 경우, 해당 정보가 타인에게 유출될 가능성이 있으므로[22,39], 민감한 개인정보가 포함된 자료는 절대 입력하지 않도록 하는 내용을 포함하여 이전보다 더욱 강화된 학습윤리 교육이 필요할 것으로 여겨진다.
한편 간호대학생이 ChatGPT 등 인공지능 챗봇을 통해 과제를 작성하는 경우, 스스로 과제를 해결해나가는 경험이 부족하며 이에 간호학과에서 목표로 하는 학습성과 달성이 부족할 수 있으므로, 교수자는 인공지능으로 쉽게 해결할 수 없는 과제를 제출하도록 노력하는 등[27], 자신이 이해한 바를 직접 입증할 수 있는 과제가 무엇인지 고민해야 할 필요가 있다. 간호교육자들은 ChatGPT 활용에 대한 대안으로 제시되고 있는 방법들[38]을 참고하여 간호대학생들이 ChatGPT에만 의존하지 않고 인터뷰나 설문조사 등 경험적인 자료를 수집하고 이를 바탕으로 한 과제를 제출하도록 할 수 있겠다. 그러나 기초간호학 분야에서 인터뷰나 설문조사와 같은 인문학적 접근이 요구되는 과제를 수행하기에는 다른 간호학 전공 교과목보다는 제한이 있을 수 있으므로, 기초간호학을 교육하는 간호교육자들은 좀 더 다양한 방식의 평가를 모색해야 하겠다.
본 연구는 GPT-3.5와 GPT-4가 제공한 답변을 사용자가 아닌 간호교육자의 입장에서 평가하였다는 제한이 있다. 본 연구는 GPT-3.5와 GPT-4가 제공한 답변을 문장의 정확도로만 평가하였는데, 향후에는 ChatGPT를 사용할 간호대학생들이 이를 평가해 볼 필요가 있다. 이를 위해서는 신뢰도와 타당도가 높은 관련 도구가 개발될 필요가 있으며, 적합한 도구가 개발되기 전까지는 인터넷 건강 질병정보 질 평가 도구[40] 등을 활용해보는 것도 고려할 수 있겠다. 또한 기초간호학을 교육하는 교수자들은 ChatGPT를 활용한 새로운 교수법을 고안하여 전통적인 방식과는 달리 ChatGPT가 풀지 못하는 수학 연산이 필요한 문제나 그림을 포함한 과제를 내는 방식을 고려하고, ChatGPT로 퀴즈나 형성평가를 구성하는 등 ChatGPT의 잠재력과 가능성을 교수자들이 학습하고 교육에 적절히 활용해 개별 학생에 대한 맞춤형 지도를 제공하고 학생들의 학습 성과를 향상시킬 수 있도록 노력할 필요가 있다. ChatGPT는 지속적으로 업데이트되고 있으며 이에 따라 본 연구에서 사용한 질문을 추후 GPT-3.5나 GPT-4에 동일하게 입력하여도 본 연구와는 다른 다양한 답변이 생성될 가능성[29]이 있다는 것을 염두해 둘 필요가 있다.

결론

본 연구를 통해 ChatGPT는 기초간호학 관련 질문에 대한 신속하고 즉각적인 답변 생성이 가능하며, 이에 미생물학, 약리학 등 기초간호학 분야의 다양하고 복잡한 개념에 대한 이해를 돕는 도구로써 활용될 수 있다는 것을 확인하였다. 또한 GPT-3.5와 GPT-4 모두 언어를 영어로 사용할 경우 정확도가 매우 높았지만, 한국어를 사용할 경우에는 GPT-3.5보다 GPT-4의 정확도가 더 높은 것을 확인하였다. 급속도로 발전해 나가는 인공지능의 물결 앞에서 간호교육자들은 전통적인 간호교육 방법만을 고수하는 것 보다는, 변화의 물결에 모두가 다 잘 적응할 수 있도록 서로 협력하여 지혜를 발휘할 필요가 있다.
본 연구결과를 바탕으로 다음과 같이 제언하고자 한다. 첫째, 본 연구는 ChatGPT가 생성한 질문에 대한 평가를 교수자와 임상 간호사가 실시하였으나 추후 연구에서는 ChatGPT를 사용하는 학습자인 간호대학생이 평가하고 그 결과를 확인하는 연구를 제언한다. 둘째, 현재 ChatGPT가 생성한 자료에 대한 평가도구가 개발되어 있지 않으므로, 추후 연구를 통해 ChatGPT 등 인공지능이 생성한 자료의 타당성과 정확성, 활용가능성 등을 평가할 수 있는 평가도구의 개발을 제언한다. 셋째, 간호학의 특성을 반영하여 간호학교육에 적용가능한 ChatGPT 등 인공지능에 대한 활용 가이드라인을 개발하여 제시할 것을 제언한다.

Notes

CONFLICT OF INTEREST

Seok Hee Jeong has been an editorial board member of the JKBNS since 2022. However, she was not involved in the review process of this manuscript. Otherwise, there was no conflict of interest.

AUTHORSHIP

SK and SHJ contributed to the conception and design of this study; SK, JK, MJC, and SHJ collected and analysis data; SK, JK, MJC, and SHJ drafted the manuscript and critically revised the manuscript; SHJ supervised the whole study process. All authors read and approved the final manuscript.

FUNDING

None.

Figure 1.
Accuracy of GPT-3.5 and GPT-4. GPT = Generative Pre-trained Transformer.
jkbns-23-0013f1.jpg
Table 1.
Characteristics of GPT-3.5 and GPT-4
Item GPT-3.5 GPT-4
Release date 2022. 11. 30 2023. 03. 14
Costs Free $20/month
Training data 45 TB of text from the web 500 TB of text from the web
Training data period September 2021 September 2021
Number of parameters 175 billion parameters 1 trillion parameters
Model Text-only model Multimodal model
Reliability of answers Provide knowledge about unethical areas such as crime, hacking, etc. Reduced the rate of answering unethical and dehumanizing questions by 82%
Memory 8,000 words 64,000 words
Multilingual Capabilities English proficiency was already strong at 70.1% Improved multilingual capabilities
It can work with 25 languages other than English.
Input Only text Accepts visual input
Token limit 4,096 (equivalent to 3,072 words) 32,768 (equivalent to 24,576 words)

GPT = Generative Pre-trained Transformer.

Table 2.
Accuracy of Answers to Questions
Version GPT-3.5 GPT-4
Language Korean English Korean English
Question Total sentences (n) Correct sentences (n) Accuracy (%) Total sentences (n) Correct sentences (n) Accuracy (%) Total sentences (n) Correct sentences (n) Accuracy (%) Total sentences (n) Correct sentences (n) Accuracy (%)
1 15 0 0.0 21 21 100.0 29 29 100.0 29 29 100.0
2 4 4 100.0 5 5 100.0 5 5 100.0 5 5 100.0
3 7 7 100.0 9 9 100.0 2 2 100.0 9 9 100.0
4 11 10 90.9 12 12 100.0 13 13 100.0 13 13 100.0
5 8 6 75.0 12 12 100.0 12 12 100.0 12 12 100.0
6 6 5 83.3 11 11 100.0 7 7 100.0 7 7 100.0
Total 51 32 62.7 70 70 100.0 68 68 100.0 75 75 100.0

GPT = Generative Pre-trained Transformer.

REFERENCES

1. Presidential Committee on The Fourth Industrial Revolution. A study on the future education framework and future school suitable for the era of the 4th industrial revolution [Internet]. Sejong: Presidential Committee on The Fourth Industrial Revolution; 2018 [cited 2023 Apr 03]. Available from: https://www.pa.go.kr/portal/info/periodicalRegist/periodicalRegistDetail.do?book_num=1651#
2. Kim JS. Special report, 'Chat GPT' craze shakes the AI market [Internet]. Seoul: Electronic Times Internet; 2023 [cited 2023 Apr 03]. Available from: https://www.etnews.com/20230130000092
3. Jagranjosh. What is ChatGPT: definition, how to use it [Internet]. Noida: Jagranjosh; 2023 [cited 2023 Apr 03]. Available from: https://www.jagranjosh.com/general-knowledge/what-is-chat-gpt-1676870553-1
4. Bernard M. What is GPT-3 and why is it revolutionizing artificial intelligence? [Internet]. JerseyCity: Forbe; 2020 [cited 2023 Apr 03]. Available from: https://www.forbes.com/sites/bernardmarr/2020/10/05/what-is-gpt-3-and-why-is-it-revolutionizing-artificial-intelligence/?sh=6debb355481a
5. OpenAI. Introducing ChatGPT [Internet]. San Francisco: OpenAI; 2023 [cited 2023 Apr 03]. Available from: https://openai.com/blog/chatgpt
6. Kim TW. Can ChatGPT be a tool for innovation?: ChatGPT use cases and prospects [Internet]. Seoul: National Information Society Agency; 2023 [cited 2023 May 03]. Available from: https://www.nia.or.kr/site/nia_kor/ex/bbs/View.do?cbIdx=82618&bcIdx=25163&parentSeq=25163
7. Fawad A. GPT-1 to GPT-4: Each of OpenAI's GPT models explained and compared [Internet]. Quebec: Makeuseof; 2023 [cited 2023 May 8]. Available from: https://www.makeuseof.com/gpt-models-explained-and-compared/
8. OpenAI. GPT-4 Technical Report. ArXiv [Preprint]. 2023 [cited 2023 May 03]. Available from: https://doi.org/10.48550/arXiv.2303.08774
crossref
9. King MR. A conversation on artificial intelligence, chatbots, and plagiarism in higher education. Cellular and Molecular Bioengineering. 2023;16(1):1-2. https://doi.org/10.1007/s12195-022-00754-8
crossref pmid pmc
10. Ban BH. ChatGPT: Singularity finally reached. 1st ed. Paju: Life & Power Press; 2023.
11. Jang SM. ChatGPT has changed the future of writing education - Focusing on the response of writing education in the era of artificial intelligence. Writing Research. 2023;56:07-34. https://doi.org/10.31565/korrow.2023..56.001
crossref
12. Kim TJ, Im YI, Chung SB, Choi DH, Kim CH. “I gave the assignment to ChatGPT and got an A”… University emergency ahead of school opening [Internet]. Seoul: Chosunilbo; 2023 [cited 2023 Apr 03]. Available from: https://www.chosun.com/national/education/2023/02/10/2PMQM6YIMZAAZKQI7ZJNM26IUM/
13. Kim HB. Exclusive, Seoul national university, semiconductor design lecture using 'ChatGPT' from the 2nd semester [Internet]. Seoul: Joongangilbo; 2023 [cited 2023 Apr 03]. Available from: https://www.joongang.co.kr/article/25151364#home
14. Shin DK, Jung HK, Lee YS. Exploring the potential of using ChatGPT as a content-based English learning and teaching tool. Journal of the Korea English Education Society. 2023;22(1):171-192.
15. Lee KS, Jeong JS, Choe M, Kim JH, An GJ, Kim JH, et al. Development of standard syllabuses for 4 subjects (structure and function of human body, pathogenic microbiology, pathophysiology, mechanisms and effects of drug) of bionursing. Journal of Korean Biological Nursing Science. 2013;15(1):33-42. https://doi.org/10.7586/jkbns.2013.15.1.33
crossref
16. OpenAI. ChatGPT [Internet]. San Francisco: OpenAI; 2023 [cited 2023 Apr 03]. Available from: https://chat.openai.com/chat
17. OpenAI. ChatGPT 4.0 [Internet]. San Francisco: OpenAI; 2023 [cited 2023 Apr 03]. Available from: https://openai.com/gpt-4
18. Steven VN. GPT-3.5 vs GPT-4: Is ChatGPT plus worth its subscription fee? [Internet]. San Francisco: ZDNET; 2023 [cited 2023 Apr 03]. Available from: https://www.zdnet.com/article/gpt-3-5-vs-gpt-4-is-chatgpt-plus-worth-its-subscription-fee/
19. Kunerth V. ChatGPT-3.5 is all well and good, but ChatGPT-4, at $20 a month via ChatGPT Plus, is a good deal smarter and more accurate [Internet]. Mountain View: Linkedin; 2023 [cited 2023 Jun 03]. Available from: https://www.linkedin.com/pulse/chatgpt-35-vs-chatgpt-4-comparison-latest-gpt-based-chatbot-kunerth
20. Hong EY, Kwon YR, Kim SH, Kim YJ, Kim JS, Ryu DJ, et al. Essential nursing microbiology. 6th ed. Seoul: Hyunmoon Publishing; 2021.
21. Elsevier. Guide for Authors - Declaration of generative AI in scientific writing [Internet]. Amsterdam: Elsevier; 2023 [cited 2023 Apr 03]. Available from: https://www.elsevier.com/journals/nurse-education-in-practice/1471-5953/guide-for-authors
22. National Information Society Agency. The emergence of ChatGPT and legal system issues. Seoul: National Information Society Agency (NIA); 2023 [cited 2023 May 03]. Available from: https://www.nia.or.kr/site/nia_kor/ex/bbs/View.do?cbIdx=82618&bcIdx=25371&parentSeq=25371
23. Lee HG. Korea university, the first Korean university to establish guidelines for using ChatGPT [Internet]. Seoul: University Intelligence; 2023 [cited 2023 May 13]. Available from: https://www.unipress.co.kr/news/articleView.html?idxno=8088
24. Korea pharmaceutical information center. Drug search [Internet]. Seoul: Korea pharmaceutical information center; 2000 [cited 2023 May 12]. Available from: https://www.health.kr/main.asp
25. van Dis EA, Bollen J, Zuidema W, van Rooij R, Bockting CL. ChatGPT: five priorities for research. Nature. 2023;614(7947):224-226. https://doi.org/10.1038/d41586-023-00288-7
crossref pmid
26. Im JH. Business report written with 'ChatGPT' and its implications [Internet]. Seoul: IBK Economic Research Institute (Weekly IBK Economic Brief); 2023 [cited 2023 Apr 18]. Available from: http://research.ibk.co.kr/research/board/economy-news/details/251694?url=L2JvYXJkL2Vjb25vbXktbmV3cy9saXN0
27. Thorp HH. ChatGPT is fun, but not an author. Science. 2023;379(6630):313. https://doi.org/10.1126/science.adg7879
crossref pmid
28. Flanagin A, Bibbins-Domingo K, Berkwits M, Christiansen SL. Nonhuman “Authors” and implications for the integrity of scientific publication and medical knowledge. JAMA. 2023;329(8):637-639. https://doi.org/10.1001/jama.2023.1344
crossref pmid
29. Sun GH, Hoelscher SH. The ChatGPT storm and what faculty can do. Nurse Educator. 2023;48(3):119-124. https://doi.org/10.1097/NNE.0000000000001390
crossref pmid
30. Kim SM. 'AI that catches AI' is also developed one after another [Internet]. Seoul: Chosunilbo; 2023 [cited 2023 Jun 7]. Available from: https://www.chosun.com/economy/economy_general/2023/05/24/MMPJJ4YX5BCXTCBSSSC5O32FUU/
31. Lund BD, Wang T. Chatting about ChatGPT: how may AI and GPT impact academia and libraries? Library Hi Tech News. 2023;40(3):26-29. https://doi.org/10.1108/LHTN-01-2023-0009
crossref
32. Ruksakulpiwat S, Kumar A, Ajibade A. Using ChatGPT in medical research: current status and future directions. Journal of Multidisciplinary Healthcare. 2023;16:1513-1520. https://doi.org/10.2147/JMDH.S413470
crossref pmid pmc
33. Mohammad B, Supti T, Alzubaidi M, Shah H, Alam T, Shah Z, et al. The pros and cons of using ChatGPT in medical education: a scoping review. Studies in Health Technology and Informatics. 2023;305:644-647. https://doi.org/10.3233/SHTI230580
crossref pmid
34. O'Connor S. Open artificial intelligence platforms in nursing education: tools for academic progress or abuse? Nurse Education in Practice. 2022;66:103537. https://doi.org/10.1016/j.nepr.2022.103537
crossref pmid
35. O'Connor S. Corrigendum to “Open artificial intelligence platforms in nursing education: Tools for academic progress or abuse?" [Nurse Education in Practice. 66 (2023) 103537]. Nurse Education in Practice. 2023;67:103572. https://doi.org/10.1016/j.nepr.2023.103572
crossref pmid
36. Lee SW. Yonsei university's 'ChatGPT ghostwriting suspicion' task 0 points processed... "Writing assignments, turning to note-taking” [Internet]. Seoul: Dongailbo; 2023 [cited 2023 Jun 7]. Available from: https://rocket.orbi.kr/00062548409
37. Choi MS, Choi WY, Lee MS. International school students in Korea, ghostwriting assignments with ChatGPT... 'All 0 points' [Internet]. Seoul: Dongailbo; 2023 [cited 2023 Jun 7]. Available from: https://www.donga.com/news/Society/article/all/20230209/117801590/1
38. Kim JY. Korea university, the first 'ChatGPT guidelines'...“Interviews, questionnaires, etc” [Internet]. Seoul: Seoul Shinmun; 2023 [cited 2023 Jun 7]. Available from: https://www.seoul.co.kr/news/newsView.php?id=20230317010008
39. Ben D. ChatGPT error... Leak other users' conversation history [Internet]. BBC News Korea; 2023 [cited 2023 May 13]. Available from: https://www.bbc.com/korean/articles/cje57559n90o
40. Kim MJ, Kang NM, Kim SW, Rhyu SW, Chang HJ, Hong SK, et al. Development of an evaluation checklist for internet health/disease information. Journal of Korean Society of Medical Informatics. 2006;12(4):283-292. https://doi.org/10.4258/jksmi.2006.12.4.283
crossref

Appendices



ABOUT
ARTICLES AND ISSUES
EDITORIAL POLICIES
FOR CONTRIBUTORS
Editorial Office
Department of Nursing Science, Chungbuk National University,
1, Chungdae-ro, Seowon-gu, Cheongju-si, Chungcheongbuk-do, Republic of Korea, 28644
Tel: +82-43-249-1797    Fax: +82-43-266-1710    E-mail: jkbns@jkbns.org                

Copyright © Korean Society of Biological Nursing Science.

Developed in M2PI