인공지능의 예의관련 시스템이 궁금합니다.
-
게시물 수정 , 삭제는 로그인 필요
인공지능의 예의관련 시스템이 궁금합니다.
익명 작성일 -
경우에 따라 상이할 수 있습니다만,
보통 Train단계 때 인공지능 가중치가 변경되는 것이며
일반 사람이 쓰는 단계는 가중치를 변경되지 않는 Inference단계입니다.
즉 입력 문장에 도덕적이지 못할 경우에도 수집한 데이터에 영향을 미치지 않는 경우가
대부분입니다.
다만 chatgpt(gpt 3.5)와 같은 대부분의 언어모델은 Instruct Tuning과 Alignment Tuning이 되어 사람이 선호하는 답변을 하도록 학습 되어 있습니다. 대표적인 것이 사용자와의 대화에서 편향되거나 문제될 될발언을 하지 않도록 RLHF라고 하는 강화학습을 하게되는데 인간의 선호를 학습하도록 하는 것이 목적입니다.
즉, 대화를 종료하는 직접적인 이유는 사람이 선호하지 않을 것으로 판단되기 때문으로 보면 좋을 것 같습니다.
경우에 따라 상이할 수 있습니다만,
보통 Train단계 때 인공지능 가중치가 변경되는 것이며
일반 사람이 쓰는 단계는 가중치를 변경되지 않는 Inference단계입니다.
즉 입력 문장에 도덕적이지 못할 경우에도 수집한 데이터에 영향을 미치지 않는 경우가
대부분입니다.
다만 chatgpt(gpt 3.5)와 같은 대부분의 언어모델은 Instruct Tuning과 Alignment Tuning이 되어 사람이 선호하는 답변을 하도록 학습 되어 있습니다. 대표적인 것이 사용자와의 대화에서 편향되거나 문제될 될발언을 하지 않도록 RLHF라고 하는 강화학습을 하게되는데 인간의 선호를 학습하도록 하는 것이 목적입니다.
즉, 대화를 종료하는 직접적인 이유는 사람이 선호하지 않을 것으로 판단되기 때문으로 보면 좋을 것 같습니다.
소프트웨어학과 AI학과(인공지능관련과)
... it 관련 주제들을 탐구하다 보니 인공지능에 관심이... 적합할지 궁금합니다 인공지능이 소프트웨어분야에... KG아이티뱅크는 정보보안, 네트워크, 시스템...
인공지능 개발자/연구원
... 대학원에 갈 때, 인공지능과 관련된 곳을 가려면 어떤 학과를 진학해야 하는 지 궁금합니다. 5. 인공지능... KG아이티뱅크는 정보보안, 네트워크, 시스템, 클라우드컴퓨팅...
인공지능 AI에 대해 명확한 설명을...
현재 대학교 4학년 재학 중이고 AI 관련되어 교육과... 싶은 사례들과 AI의 범주가 어디까지 인지 궁금합니다. 예를... 현대의 대부분 인공지능 시스템은 데이터로부터 학습하고...
건양대 의료인공지능학과,의료it과 취업
... 취업하는지도 궁금합니다 건양대학교 인공지능학과... 헬스케어시스템, 병원정보시스템, IoT(사물인터넷)... 추가적으로 입시관련 궁금한 사항이 있으시면 '건양입시톡...
인공지능 관련서적 추천좀요
... (+인공지능이랑 디자인 관련 일을 하면 프로그래밍 어떤 것들을 배워야 하는지 궁금합니다 ) AI에 관해서... 정보시스템, 정보처리와 관련한 지식들의 습득하는 것이...
인공지능 사회문제
... 있는지 궁금합니다 [질문] 고3 사탐시간에 인공지능의... 침해와 관련된 문제를 야기할 수 있습니다. 이를... 편향성과 공정성: 인공지능 시스템은 데이터에 기반하여 학습하고...
인공지능과 근대화
... 인공지능의 발전에 끼친 영향 등 이 궁금합니다.. 특히... 가상의 시스템으로, 스스로 학습하고 생각하는... 사실 머신러닝과 관련된 알고리즘은 수십 년 전에 나왔고...
인공지능 관련 직업군이 궁금합니다....
... 인공지능에 관심이 생겼는데요 각각 어떤 관련... 내용이 궁금합니다. 현재 이쪽 계열에서 종사하고... 예들들어 프로그래머를 세부적으로 나누면 시스템프로그래머...
삼육대 인공지능학부
... 경영정보시스템, 반도체공학 이렇게 전공하신 분들 계시는데... 전공이 인공지능 관련된게 아니여도 괜찮은걸까요 궁금합니다 인공지능을 응용하기 위해서는 단순 전산...
차이점 및 각각 필요한 소양이 궁금합니다.
... 또한 각각의 분야에 필요한 필수소양과 관련학과도... 만드는지도 궁금합니다. 광고글은 하지 말아주세요.... 반면 인공지능은 하나의 컴퓨터 시스템이나 프로그램으로...