사용기
요즘 AI 발전이 눈에 띄게 빨라지고 있는 것 같다.
처음에는 이미지 생성 관련하여 커뮤니티를 중심으로 이야기가 나오고, 로컬에서 이미지 생성을 하는 것까지는 관심있게 봤는데
그 이후부터는 솔직히 관심에서 많이 떠났다.
물론 석사 과정 중 논문 리뷰나 이런 부분에 있어서 꽤나 도움을 받기는 했다.
(당연하게도 지피티 친구는 일부 하자가 있었기에 수정한다고 애먹기도 했었다.)
이후 시간이 흘러 1년 조금 남짓 지났는데, 일상에서 'AI가 이렇게 말해줬는데?' '지피티가 그렇다는데?'라는 말이 듣기도 하고 심지어는 지인은 기계 설계 직군인데도 AI를 활용하여 금형 설계도 진행하고 있다고 한다.
그간 못 믿겠다는 나의 편협한 사고에 반성하며, 나도 AI를 활용해보기로 했다.
간단하게는 3D 스캔 파일 데이터 정리부터 진행해보았는데, 결과는 아직 따로 공유하지는 않겠지만 제법 깔끔하게 나와주었다.
클로드 무료 (모델은 뭔지 모르겠다.)와 지피티 5.6 Sol 모델이었다.
동일 프롬프트, 동일 모델로 진행 시 클로드는 무료인지라 사용량이 한번에 90%를 초과, 지피티의 경우 모델을 계속 돌려도 사용량이 1%도 소요되지 않았다.
물론 결과 데이터는 클로드 쪽이 추구하는 바는 맞았으나, 100개 문제 중 3개만 완벽한 정답, 나머지는 쓸 수 없는 데이터였다.
반면 지피티는 추구하는 바는 맞지 않았으나, 얼추 원하는 데이터는 나오긴 했다. 정답은 아니지만 오답도 아니고, 그렇지만 오답에 가까운?
어쨋든 나의 시간과 노력을 상당히 아껴주었다.
프로그램을 만지고 있는 시간이 3시간이라면 AI랑 대화하는 시간이 1시간 정도였던거 같은데, 머리 아프게 모델 뜯어보는것보단 대화하는게 더 낫긴 했다.
이번에는 문서 작업도 시켜보려 한다.
과업지시서 몇 장, PPT 디자인 양식을 던져주고 제안서를 만들어보라고 시켰다.
무료 gpt에서는 ppt 1편 제작에 대략 10% 정도 사용하는 것 같은데, 쓸만하게 나오면 구독해봐도 좋을 것 같다.
병렬로 일을 시킬 수 있는지, 토큰은 어느정도 소모되는지, 구독해서 사용할 때 사용량은 어떻게 되는지 고민해야할 부분이 꽤나 있을 것 같다.
그리고 성격 상 뭔가 꽂히면 좀 눈이 돌아가는 부분이 있는데, 왠지 3080 그래픽 카드를 구해와서 로컬 LLM을 구성하는 것을 시도해보지 않을까 생각이 든다.
GPT4ALL이었나 초반에 로컬llm을 돌릴 수 있는 프로그램이 있어서 노트북 (랩탑 3060)으로 돌려본 기억이 있는데, 좀 문제가 많았던 기억이 있다.
아마 3080에 VRAM 12GB 짜리와 좀 작은 모델을 돌릴 때에는 괜찮게 돌리지 않을까 싶기도 하다.
가능하면 라이저 카드라던지, 듀얼 구성할 수 있는 메인보드를 찾게되면 듀얼로 구성도 해보고 싶긴하다.
잘 모르지만 주워들은 것으로 해볼 것
1. 마크다운 문서를 통한 업무 지시
마크다운 문서가 뭔지도 모르겠다. 하지만 마크다운 문서 (.md 파일?)을 가지고 정립된 형태의 일을 시킬 수 있다고 들었던거 같은데, 이런 부분을 활용해보고 싶다.
2. MCP 활용
MCP도 뭔지 모른다. 하지만 MCP 라는 것을 설치하면 프로그램을 AI가 직접 돌릴 수 있다고 들었던 것 같다.
순서가 맞을지 모르겠지만 마크다운을 통한 정립된 형태의 업무 지시 - MCP? 라는 것을 통해서 규격화된 업무 수행이 가능하지 않을까 생각이 든다.
3. 사업자 등록을 통한 구독료 10% 감면?
오픈에이아이나 엔트로픽은 외국회사라서 부가세를 돌려받지 못한다고 들었다.
그래서 사업자 활용 목적으로 별도로 신청하게 되면 부가세를 감면 받을 수 있다고 들었는데, 무료 버전으로 여러 솔루션을 간을 보고 구독료 감면을 받아보려 한다.