최신 LG Exaone3.0 기반 Streamlit 채팅 앱 만들기 + 소스코드 제공

한국의 AI 기술 발전이 새로운 국면을 맞이했습니다. LG전자가 최근 공개한 LG Exaone 3.0은 한국어를 가장 잘 이해하고 구사하는 AI 언어 모델로 주목받고 있습니다.

 

 

 

이 혁신적인 한국어 AI 모델의 등장으로 국내 AI 기술이 한 단계 도약했다는 평가를 받고 있습니다.

 

 

 

 

 

 

 

 

LG Exaone 3.0: 최고의 한국어 AI 모델

LG Exaone 3.0은 현존하는 AI 모델 중 한국어 능력이 가장 뛰어난 것으로 알려져 있습니다. 이 AI 모델은 방대한 한국어 데이터를 학습하여 자연스러운 한국어 대화와 텍스트 생성이 가능합니다. LG AI 연구소의 기술력이 집약된 LG Exaone 3.0은 한국어 특성을 깊이 이해하고 활용할 수 있는 AI 모델로 평가받고 있습니다.

 

 

 

 

한국어 AI의 혁신: LG Exaone 3.0의 특징

LG Exaone 3.0이 다른 AI 모델과 차별화되는 주요 특징은 다음과 같습니다:

1. 정확한 한국어 이해: 복잡한 한국어 문맥과 뉘앙스를 정확히 파악합니다.
2. 자연스러운 한국어 생성: 한국인의 언어 습관을 반영한 자연스러운 문장을 만들어냅니다.
3. 한국 문화 이해: 한국의 문화적 배경을 고려한 대화가 가능합니다.
4. 다양한 한국어 표현: 공식적인 문서부터 일상 대화까지 상황에 맞는 표현을 구사합니다.

 

 

 

 

 

 

 

 

 

LG Exaone 3.0이 여는 한국어 AI의 미래

LG Exaone 3.0의 공개는 한국어 AI 발전에 큰 의미를 지닙니다. 이 AI 모델은 다음과 같은 분야에서 활용될 것으로 기대됩니다:

• 고객 서비스: 정확한 한국어 이해를 바탕으로 한 AI 상담 서비스
• 콘텐츠 생성: 한국어 문서, 기사, 스크립트 등의 자동 생성
• 번역 및 통역: 고품질의 한국어-외국어 번역 서비스
• 교육: 한국어 학습자를 위한 맞춤형 AI 튜터

 

한국어 AI의 새로운 지평

LG Exaone 3.0의 등장으로 한국어 AI 기술은 새로운 지평을 열게 되었습니다. 이 AI 모델은 한국어에 특화된 성능으로 다양한 산업 분야에서 혁신을 이끌 것으로 예상됩니다. LG AI 연구소의 LG Exaone 3.0은 한국의 AI 기술력을 세계에 알리는 동시에, 한국어 사용자들에게 더욱 정교하고 유용한 AI 서비스를 제공할 것으로 예상됩니다.

LG Exaone 3.0과 함께 한국어 AI의 미래가 기대됩니다^^

 

 

 

 

 

 

 

 

 

 

아래는 LM Studio에서 Exaone3.0기반 앱을 실행하는 영상과 소스코드입니다 :

https://youtu.be/PLmN4JAKSU0

- YouTube

 

 

 

1. Base Code

# Example: reuse your existing OpenAI setup
from openai import OpenAI

# Point to the local server
client = OpenAI(base_url="http://<Your IP>:5555/v1", api_key="lm-studio")

completion = client.chat.completions.create(
  model="Bingsu/exaone-3.0-7.8b-it",
  messages=[
    {"role": "system", "content": "너는 유용한 AI Assistant야."},
    {"role": "user", "content": "너를 소개해봐."}
  ],
  temperature=0.7,
)

print(completion.choices[0].message)

 

 

2. Streamlit 앱 코드 (Stream 응답 방식)

 

import streamlit as st
from openai import OpenAI

# OpenAI 클라이언트 설정
@st.cache_resource
def get_openai_client():
    return OpenAI(base_url="http://<Your IP>:5555/v1", api_key="lm-studio")

client = get_openai_client()

st.title("LM Studio 채팅 앱")

# 세션 상태 초기화
if "messages" not in st.session_state:
    st.session_state.messages = [
        {"role": "system", "content": "한글로 대답해줘."}
    ]

# 채팅 메시지를 표시할 컨테이너
chat_container = st.container()

# 입력 필드를 화면 하단에 고정
input_container = st.container()

# 대화 내용 표시
with chat_container:
    for message in st.session_state.messages:
        if message["role"] != "system":
            with st.chat_message(message["role"]):
                st.write(message["content"])

# 사용자 입력 (화면 하단에 위치)
with input_container:
    user_input = st.text_input("메시지를 입력하세요:", key="user_input")
    send_button = st.button("전송")

if send_button and user_input:
    # 사용자 메시지 추가
    st.session_state.messages.append({"role": "user", "content": user_input})
    
    with chat_container:
        with st.chat_message("user"):
            st.write(user_input)
        
        with st.chat_message("assistant"):
            message_placeholder = st.empty()
            full_response = ""
            
            # 스트리밍 응답
            for response in client.chat.completions.create(
                model="Bingsu/exaone-3.0-7.8b-it",
                messages=st.session_state.messages,
                temperature=0.7,
                stream=True
            ):
                full_response += (response.choices[0].delta.content or "")
                message_placeholder.markdown(full_response + "▌")
            
            message_placeholder.markdown(full_response)
    
    # 최종 응답 메시지 추가
    st.session_state.messages.append({"role": "assistant", "content": full_response})
    
    # 입력 필드 초기화 (st.session_state 사용하지 않음)
    st.rerun()

# 스크롤을 항상 최하단으로 이동
st.markdown('<script>window.scrollTo(0, document.body.scrollHeight);</script>', unsafe_allow_html=True)