Интерактивный скрипт

1. В каталоге llama.cpp создаём скрипт с названием llama_script.sh

2. Сделайте файл исполняемым
chmod +x llama_script.sh

3. Откройте файл конфигурации в текстовом редакторе:
mcedit ~/.bashrc

4. Добавьте строку для создания алиаса:
alias 'lama'='cd /home/user/llama.cpp && sudo bash llama_script.sh'
Сохраните изменения и закройте файл.

5. Чтобы изменения вступили в силу, выполните команду:
source ~/.bashrc

======================================================================================
СКРИПТ llama_script.sh
======================================================================================

#!/bin/bash

clear

# Запрашиваем у пользователя уровень ума ИИ
echo "Выберите уровень ума ИИ:"
echo "1. Очень низкий"
echo "2. Низкий"
echo "3. Средний"
echo "4. Высокий"
read -p "Ваш выбор (введите цифру): " intelligence_level

# В зависимости от выбора пользователя определяем модель
case $intelligence_level in
    1)
        model="/home/user/Meta-Llama-3.1-8B-Instruct.q2_k.gguf"
        ;;
    2)
        model="/home/user/Meta-Llama-3.1-8B-Instruct.q5_k_m.gguf"
        ;;
    3)
        model="/home/user/Meta-Llama-3.1-8B-Instruct.q8_0.gguf"
        ;;
    4)
        model="/home/user/Meta-Llama-3.1-8B-Instruct.bf16.gguf"
        ;;
    *)
        echo "Некорректный выбор уровня ума. Завершение работы."
        exit 1
        ;;
esac

# Добавляем пустую строку перед следующим вопросом
echo ""

# Запрашиваем у пользователя длину ответа
echo "Какой длины ответ ожидаете?"
echo "1. Около 100 слов"
echo "2. Около 300 слов"
echo "3. Около 500 слов"
echo "4. Около 1000 слов"
echo "5. Около 3000 слов"
echo "6. Около 5000 слов"
echo "7. Около 10000 слов"
read -p "Ваш выбор (введите цифру): " response_length

# В зависимости от выбора пользователя определяем длину ответа
case $response_length in
    1)
        length="-n 100"
        ;;
    2)
        length="-n 300"
        ;;
    3)
        length="-n 500"
        ;;
    4)
        length="-n 1000"
        ;;
    5)
        length="-n 3000"
        ;;
    6)
        length="-n 5000"
        ;;
    7)
        length="-n 10000"
        ;;
    *)
        echo "Некорректный выбор длины ответа. Завершение работы."
        exit 1
        ;;
esac

# Добавляем пустую строку перед следующим вопросом
echo ""

# Запрашиваем у пользователя интерактивный режим
echo "Нужен ли интерактивный режим?"
echo "1. Да"
echo "2. Нет"
read -p "Ваш выбор (введите цифру): " interactive_first

# В зависимости от выбора пользователя определяем режим
case $interactive_first in
    1)
        intmode="-if"
        ;;
    2)
        intmode=""
        ;;
    *)
        echo "Некорректный выбор режима. Завершение работы."
        exit 1
        ;;
esac

# Добавляем пустую строку перед следующим вопросом
echo ""

# Запрашиваем у пользователя сообщение
read -p "Введите своё сообщение: " user_message

# Формируем и выполняем команду
command="./llama-cli -m $model $length $intmode -p \"$user_message\""
echo "Выполняется команда: $command"
eval $command