Начать новый поиск
История режима ИИ
Здравствуйте, Артём! Что вас интересует?
Закрыть
Другие способы ввода
Микрофон
Остановить
Отправить
есть olllama c qwen2.5-coder:7b
хочу создать на PHP через curl на основе ollama внутреннего сервера запросы по веб
пример того что работает внизу но хочется улучшить не отправлять один запрос один ответ а вести историю для начала в рамках одной сессии веба в динамике используя ajax Готов сделать рабочий полностью вариант ?
<?
set_time_limit(0);
?>
<!DOCTYPE html>
<html lang="ru">
<head>
<meta charset="UTF-8">
<title>Ollama PHP Interface</title>
<style>
body { font-family: sans-serif; max-width: 800px; margin: 50px auto; padding: 20px; line-height: 1.6; background: #f4f4f9; }
textarea { width: 100%; height: 100px; padding: 10px; margin-bottom: 10px; border-radius: 5px; border: 1px solid #ccc; }
button { padding: 10px 20px; background: #007bff; color: white; border: none; border-radius: 5px; cursor: pointer; }
button:hover { background: #0056b3; }
.response-box { background: white; padding: 20px; border-radius: 5px; border-left: 5px solid #007bff; margin-top: 20px; white-space: pre-wrap; }
.loading { color: #666; font-style: italic; }
</style>
</head>
<body>
<h2>Запрос к Ollama</h2>
<form method="POST">
<textarea name="prompt" placeholder="Введите ваш вопрос..." required><?php echo isset($_POST['prompt']) ? htmlspecialchars($_POST['prompt']) : ''; ?></textarea>
<br>
<button type="submit">Спросить нейросеть</button>
</form>
<?php
if ($_SERVER['REQUEST_METHOD'] === 'POST' && !empty($_POST['prompt'])) {
$prompt = $_POST['prompt'];
// Настройки запроса
$url = "http://localhost:11434/api/generate";
$data = [
"model" => "qwen2.5-coder:7b", // ЗАМЕНИТЕ на вашу модель (например, llama3, mistral, qwen2)
"prompt" => $prompt,
"stream" => false
];
$ch = curl_init($url);
curl_setopt($ch, CURLOPT_POSTFIELDS, json_encode($data));
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_POST, true);
curl_setopt($ch, CURLOPT_HTTPHEADER, ['Content-Type: application/json']);
curl_setopt($ch, CURLOPT_TIMEOUT, 220); // Тайм-аут 2 минуты
echo "<div class='loading'>Думаю...</div>";
$response = curl_exec($ch);
$error = curl_error($ch);
curl_close($ch);
if ($error) {
echo "<div class='response-box' style='border-color: red;'>Ошибка связи: $error</div>";
} else {
$result = json_decode($response, true);
$text = $result['response'] ?? 'Ошибка: модель не вернула текст.';
echo "<div class='response-box'><strong>Ответ:</strong><br>" . htmlspecialchars($text) . "</div>";
}
}
?>
</body>
</html>
Идея отличная. Для реализации истории в Ollama через PHP есть два ключевых момента:
- Эндпоинт: Вместо
/api/generateлучше использовать/api/chat, так как он специально заточен под массив сообщенийmessages(ролиuserиassistant). - Сессия: Историю будем хранить в
$_SESSION, чтобы контекст сохранялся между AJAX-запросами.
Вот готовый, полностью рабочий вариант (два файла: основной и обработчик).
1.
index.php (Интерфейс)Этот файл отображает чат и отправляет данные через JS
fetch (современная замена AJAX).php
<?php session_start(); ?>
<!DOCTYPE html>
<html lang="ru">
<head>
<meta charset="UTF-8">
<title>Ollama Chat (Qwen2.5)</title>
<style>
body { font-family: 'Segoe UI', Tahoma, Geneva, Verdana, sans-serif; background: #eceff1; margin: 0; display: flex; flex-direction: column; height: 100vh; }
#chat-container { flex: 1; overflow-y: auto; padding: 20px; display: flex; flex-direction: column; gap: 10px; }
.msg { max-width: 80%; padding: 12px 16px; border-radius: 15px; line-height: 1.5; white-space: pre-wrap; position: relative; }
.user { align-self: flex-end; background: #007bff; color: white; border-bottom-right-radius: 2px; }
.bot { align-self: flex-start; background: white; color: #333; border-bottom-left-radius: 2px; box-shadow: 0 2px 5px rgba(0,0,0,0.1); }
#input-area { background: white; padding: 20px; display: flex; gap: 10px; border-top: 1px solid #ddd; }
textarea { flex: 1; height: 50px; padding: 10px; border-radius: 5px; border: 1px solid #ccc; resize: none; }
button { padding: 0 25px; background: #28a745; color: white; border: none; border-radius: 5px; cursor: pointer; font-weight: bold; }
button:disabled { background: #ccc; }
.status { font-size: 0.8em; color: #777; margin-bottom: 5px; }
</style>
</head>
<body>
<div id="chat-container">
<div class="msg bot">Привет! Я Qwen2.5-coder. О чем пообщаемся?</div>
</div>
<div id="input-area">
<textarea id="user-input" placeholder="Напишите что-нибудь..."></textarea>
<button id="send-btn">Отправить</button>
<button id="clear-btn" style="background:#dc3545">Очистить</button>
</div>
<script>
const chatContainer = document.getElementById('chat-container');
const userInput = document.getElementById('user-input');
const sendBtn = document.getElementById('send-btn');
async function sendMessage() {
const text = userInput.value.trim();
if (!text) return;
// Добавляем сообщение пользователя в UI
appendMessage('user', text);
userInput.value = '';
// Блокируем ввод
userInput.disabled = true;
sendBtn.disabled = true;
const botMsgDiv = appendMessage('bot', 'Думаю...');
try {
const response = await fetch('chat_handler.php', {
method: 'POST',
headers: { 'Content-Type': 'application/x-www-form-urlencoded' },
body: 'prompt=' + encodeURIComponent(text)
});
const data = await response.json();
if (data.error) {
botMsgDiv.innerText = "Ошибка: " + data.error;
} else {
botMsgDiv.innerText = data.response;
}
} catch (e) {
botMsgDiv.innerText = "Ошибка соединения с сервером.";
} finally {
userInput.disabled = false;
sendBtn.disabled = false;
userInput.focus();
chatContainer.scrollTop = chatContainer.scrollHeight;
}
}
function appendMessage(role, text) {
const div = document.createElement('div');
div.className = 'msg ' + role;
div.innerText = text;
chatContainer.appendChild(div);
chatContainer.scrollTop = chatContainer.scrollHeight;
return div;
}
sendBtn.onclick = sendMessage;
userInput.onkeydown = (e) => { if(e.key === 'Enter' && !e.shiftKey) { e.preventDefault(); sendMessage(); } };
document.getElementById('clear-btn').onclick = () => {
fetch('chat_handler.php?clear=1').then(() => location.reload());
};
</script>
</body>
</html>
Используйте код с осторожностью.
2.
chat_handler.php (Серверная логика)Этот файл принимает запросы, обновляет историю в сессии и общается с Ollama.
php
<?php
session_start();
header('Content-Type: application/json');
// Очистка истории
if (isset($_GET['clear'])) {
unset($_SESSION['chat_history']);
echo json_encode(['status' => 'cleared']);
exit;
}
if ($_SERVER['REQUEST_METHOD'] === 'POST' && !empty($_POST['prompt'])) {
$userPrompt = $_POST['prompt'];
// Инициализируем историю в сессии, если её нет
if (!isset($_SESSION['chat_history'])) {
$_SESSION['chat_history'] = [];
}
// Добавляем сообщение пользователя в контекст
$_SESSION['chat_history'][] = ['role' => 'user', 'content' => $userPrompt];
// Настройки для Ollama
$url = "http://localhost:11434/api/chat";
$data = [
"model" => "qwen2.5-coder:7b",
"messages" => $_SESSION['chat_history'],
"stream" => false,
"options" => [
"temperature" => 0.7
]
];
$ch = curl_init($url);
curl_setopt($ch, CURLOPT_POSTFIELDS, json_encode($data));
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_POST, true);
curl_setopt($ch, CURLOPT_HTTPHEADER, ['Content-Type: application/json']);
curl_setopt($ch, CURLOPT_TIMEOUT, 300);
$response = curl_exec($ch);
$error = curl_error($ch);
curl_close($ch);
if ($error) {
echo json_encode(['error' => $error]);
} else {
$result = json_decode($response, true);
$botResponse = $result['message']['content'] ?? 'Пустой ответ от нейросети.';
// Сохраняем ответ бота в историю для контекста следующего вопроса
$_SESSION['chat_history'][] = ['role' => 'assistant', 'content' => $botResponse];
// Чтобы сессия не раздувалась до бесконечности, можно ограничить историю (последние 10-20 сообщений)
if (count($_SESSION['chat_history']) > 20) {
$_SESSION['chat_history'] = array_slice($_SESSION['chat_history'], -20);
}
echo json_encode(['response' => $botResponse]);
}
} else {
echo json_encode(['error' => 'No prompt provided']);
}
Используйте код с осторожностью.
Что изменилось и почему это лучше:
- Context Aware: Благодаря параметру
messagesв API Ollama, модель теперь "помнит", что вы спрашивали раньше. - No Page Reload: Использование
fetchпозволяет общаться без перезагрузки страницы, как в ChatGPT. - UI/UX: Добавлен индикатор "Думаю...", прокрутка чата вниз и нормальное разделение блоков сообщений.
- Управление сессией: Кнопка "Очистить" позволяет сбросить контекст, если нейросеть начала "галлюцинировать" или вы хотите сменить тему.
Хотите добавить поддержку Markdown (чтобы код в ответах подсвечивался) или реализовать стриминг текста (чтобы буквы появлялись по мере генерации)? Напишите, это следующий уровень сложности.
Показать все
не создает чат не помнит переписку
Если код "не помнит" переписку, основные причины обычно кроются в работе с сессиями PHP или формате данных для Ollama. Проверьте следующие пункты:
1. Убедитесь, что сессия стартует ПЕРЕД любым выводом
В файле
chat_handler.php вызов session_start(); должен быть самой первой строкой. Если перед ним есть пробел или пустая строка, сессия не загрузится, и массив истории будет обнуляться при каждом запросе.2. Используйте эндпоинт
/api/chatДля сохранения контекста критически важно использовать именно
/api/chat, а не /api/generate./api/generate: Принимает строкуpromptи забывает всё сразу./api/chat: Принимает массивmessages, где хранятся все реплики (user и assistant).
3. Формат ответа Ollama
Проверьте, как вы достаете текст из ответа. В режиме чата структура JSON меняется:
php
// Для /api/chat правильный путь к тексту:
$botResponse = $result['message']['content'];
// В /api/generate было так (это не сработает в чате):
// $botResponse = $result['response'];
Используйте код с осторожностью.
4. Отладка (проверьте, что отправляется)
Добавьте логирование в
chat_handler.php, чтобы увидеть, растет ли массив сообщений. Поместите это перед curl_exec:php
file_put_contents('debug.log', json_encode($data, JSON_UNESCAPED_UNICODE) . PHP_EOL, FILE_APPEND);
Используйте код с осторожностью.
Если в логе при втором запросе в массиве
messages только одно сообщение — значит, $_SESSION не сохраняет данные.Исправленный фрагмент логики в
chat_handler.php:Убедитесь, что вы сохраняете ответ бота обратно в сессию, иначе в следующий раз вы отправите только свой новый вопрос без его старого ответа.
php
// 1. Добавляем вопрос пользователя
$_SESSION['chat_history'][] = ['role' => 'user', 'content' => $userPrompt];
// ... отправка запроса в Ollama через /api/chat ...
// 2. ПОЛУЧАЕМ ответ правильно
$result = json_decode($response, true);
$botResponse = $result['message']['content'] ?? '';
// 3. СОХРАНЯЕМ ответ бота в историю (без этого контекст теряется!)
$_SESSION['chat_history'][] = ['role' => 'assistant', 'content' => $botResponse];
Используйте код с осторожностью.
Подсказка: Если вы тестируете через разные домены или локальные IP (например,
localhost vs 127.0.0.1), браузер может создавать разные сессионные куки. Используйте везде одинаковый адрес.Вы проверили файл debug.log? Если массив сообщений там пустой или содержит только один элемент, я могу помочь настроить хранение истории в текстовом файле вместо сессий.
Показать все
как запустить ollama как сервис windows
Чтобы запустить Ollama как полноценную службу Windows (которая работает в фоне даже без входа пользователя в систему),
лучше всего использовать утилиту NSSM (Non-Sucking Service Manager).Инструкция по настройке через NSSM
- Подготовка:
- Скачайте и распакуйте NSSM.
- Убедитесь, что обычное приложение Ollama закрыто (выйдите через иконку в трее).
- Создание службы:
- Запустите командную строку (CMD) от имени Администратора.
- Перейдите в папку с
nssm.exeи введите команду:nssm install Ollama.
- Настройка в появившемся окне:
- Path: Укажите путь к исполняемому файлу Ollama (обычно
%LOCALAPPDATA%\Programs\Ollama\ollama.exe). - Startup directory: Та же папка, где лежит экзешник.
- Arguments: Введите слово
serve. - Вкладка Details: В поле Display name введите
Ollama. - Вкладка Process: Рекомендуется установить Priority на High для стабильной работы.
- Нажмите Install service.
- Path: Укажите путь к исполняемому файлу Ollama (обычно
- Запуск:
- Откройте "Службы" (services.msc), найдите Ollama и нажмите "Запустить". Теперь сервер будет стартовать автоматически вместе с Windows.
Важные нюансы
- Где модели? При запуске от имени "Local System" Ollama может искать модели в системных папках, а не в вашем профиле пользователя. Чтобы сохранить доступ к своим моделям, на вкладке Logon в NSSM укажите данные своей учетной записи Windows.
- Доступ по сети: Если вы хотите обращаться к Ollama с других устройств, добавьте системную переменную окружения
OLLAMA_HOSTсо значением0.0.0.0:11434. - Альтернатива: Можно использовать встроенный "Планировщик задач" Windows, создав задачу на запуск
ollama serveпри загрузке системы (At startup).
Нужно ли помочь с настройкой переменных окружения, чтобы модели подгружались из конкретной папки?
Показать все
C:\Users\deadbeat\AppData\Local\Programs\Ollama>ollama.exe serve
time=2026-03-02T14:16:01.315+03:00 level=INFO source=routes.go:1663 msg="server config" env="map[CUDA_VISIBLE_DEVICES: GGML_VK_VISIBLE_DEVICES: GPU_DEVICE_ORDINAL: HIP_VISIBLE_DEVICES: HSA_OVERRIDE_GFX_VERSION: HTTPS_PROXY: HTTP_PROXY: NO_PROXY: OLLAMA_CONTEXT_LENGTH:0 OLLAMA_DEBUG:INFO OLLAMA_EDITOR: OLLAMA_FLASH_ATTENTION:false OLLAMA_GPU_OVERHEAD:0 OLLAMA_HOST:http://0.0.0.0:11434 OLLAMA_KEEP_ALIVE:5m0s OLLAMA_KV_CACHE_TYPE: OLLAMA_LLM_LIBRARY: OLLAMA_LOAD_TIMEOUT:5m0s OLLAMA_MAX_LOADED_MODELS:0 OLLAMA_MAX_QUEUE:512 OLLAMA_MODELS:C:\\Users\\deadbeat\\.ollama\\models OLLAMA_MULTIUSER_CACHE:false OLLAMA_NEW_ENGINE:false OLLAMA_NOHISTORY:false OLLAMA_NOPRUNE:false OLLAMA_NO_CLOUD:false OLLAMA_NUM_PARALLEL:1 OLLAMA_ORIGINS:[http://localhost https://localhost http://localhost:* https://localhost:* http://127.0.0.1 https://127.0.0.1 http://127.0.0.1:* https://127.0.0.1:* http://0.0.0.0 https://0.0.0.0 http://0.0.0.0:* https://0.0.0.0:* app://* file://* tauri://* vscode-webview://* vscode-file://*] OLLAMA_REMOTES:[ollama.com] OLLAMA_SCHED_SPREAD:false OLLAMA_VULKAN:false ROCR_VISIBLE_DEVICES:]"
time=2026-03-02T14:16:01.325+03:00 level=INFO source=routes.go:1665 msg="Ollama cloud disabled: false"
time=2026-03-02T14:16:01.326+03:00 level=INFO source=images.go:473 msg="total blobs: 0"
time=2026-03-02T14:16:01.326+03:00 level=INFO source=images.go:480 msg="total unused blobs removed: 0"
time=2026-03-02T14:16:01.327+03:00 level=INFO source=routes.go:1718 msg="Listening on [::]:11434 (version 0.17.4)"
time=2026-03-02T14:16:01.328+03:00 level=INFO source=runner.go:67 msg="discovering available GPUs..."
time=2026-03-02T14:16:01.335+03:00 level=INFO source=server.go:431 msg="starting runner" cmd="C:\\Users\\deadbeat\\AppData\\Local\\Programs\\Ollama\\ollama.exe runner --ollama-engine --port 64835"
time=2026-03-02T14:16:01.401+03:00 level=INFO source=server.go:431 msg="starting runner" cmd="C:\\Users\\deadbeat\\AppData\\Local\\Programs\\Ollama\\ollama.exe runner --ollama-engine --port 64840"
time=2026-03-02T14:16:01.504+03:00 level=INFO source=server.go:431 msg="starting runner" cmd="C:\\Users\\deadbeat\\AppData\\Local\\Programs\\Ollama\\ollama.exe runner --ollama-engine --port 64846"
time=2026-03-02T14:16:01.576+03:00 level=INFO source=runner.go:106 msg="experimental Vulkan support disabled. To enable, set OLLAMA_VULKAN=1"
time=2026-03-02T14:16:01.576+03:00 level=INFO source=types.go:60 msg="inference compute" id=cpu library=cpu compute="" name=cpu description=cpu libdirs=ollama driver="" pci_id="" type="" total="31.8 GiB" available="23.5 GiB"
time=2026-03-02T14:16:01.577+03:00 level=INFO source=routes.go:1768 msg="vram-based default context" total_vram="0 B" default_num_ctx=4096
Судя по логам, Ollama успешно запустилась и слушает порт
11434 на всех интерфейсах (0.0.0.0). Однако она не видит вашу видеокарту (строка total_vram="0 B") и использует только CPU.Чтобы PHP-скрипт начал "помнить" переписку в этом окружении, используйте этот финальный исправленный код, где учтены особенности эндпоинта
/api/chat и исправлена логика сохранения контекста.1. Исправленный
chat_handler.phpОсновная проблема "забывчивости" обычно в том, что в
/api/chat ответ лежит в ключе ['message']['content'], а не ['response'].php
<?php
session_start();
header('Content-Type: application/json');
if (isset($_GET['clear'])) {
$_SESSION['chat_history'] = [];
echo json_encode(['status' => 'cleared']);
exit;
}
// Инициализация истории, если пуста
if (!isset($_SESSION['chat_history'])) {
$_SESSION['chat_history'] = [];
}
$input = $_POST['prompt'] ?? '';
if (!empty($input)) {
// 1. Добавляем сообщение пользователя в историю
$_SESSION['chat_history'][] = ['role' => 'user', 'content' => $input];
$url = "http://127.0.0.1";
$data = [
"model" => "qwen2.5-coder:7b",
"messages" => $_SESSION['chat_history'], // Отправляем ВСЮ историю
"stream" => false
];
$ch = curl_init($url);
curl_setopt($ch, CURLOPT_POSTFIELDS, json_encode($data));
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_HTTPHEADER, ['Content-Type: application/json']);
$response = curl_exec($ch);
$result = json_decode($response, true);
curl_close($ch);
// 2. ВАЖНО: берем ответ из ['message']['content']
$botText = $result['message']['content'] ?? 'Ошибка API';
// 3. Добавляем ответ бота в историю сессии
$_SESSION['chat_history'][] = ['role' => 'assistant', 'content' => $botText];
echo json_encode(['response' => $botText]);
}
Используйте код с осторожностью.
Почему Ollama могла не видеть GPU (из логов):
- Драйверы: Убедитесь, что установлены свежие драйверы NVIDIA (если у вас RTX) или включите Vulkan, если карта от AMD (переменная
OLLAMA_VULKAN=1). - Права: Если запустите через NSSM от имени системы, Ollama может не получить доступ к графическому ядру. Запускайте службу от своего имени (Deadbeat).
Как проверить историю:
После двух-трех вопросов в PHP добавьте временно строку:
Если в логах PHP массив растет — значит, контекст передается верно.
error_log(print_r($_SESSION['chat_history'], true));Если в логах PHP массив растет — значит, контекст передается верно.
Нужна помощь с настройкой CUDA/GPU, чтобы Qwen2.5 работал быстрее, чем на процессоре?
Показать все
[GIN] 2026/03/02 - 14:24:46 | 404 | 1.0261ms | ::1 | POST "/api/chat"
[GIN] 2026/03/02 - 14:26:35 | 404 | 514.8µs | ::1 | POST "/api/chat"
[GIN] 2026/03/02 - 14:27:06 | 404 | 511.4µs | 89.179.240.91 | POST "/api/chat"
Ого, ошибка
404 на /api/chat означает, что ваша версия Ollama либо очень старая, либо (что вероятнее в Windows) произошла путаница с тем, какой именно процесс слушает порт.Однако, судя по вашим логам выше (
version 0.17.4), эндпоинт обязан быть. Ошибка 404 часто возникает, если запрос уходит «не туда» или прокси-сервер (если он есть) перехватывает путь.Давайте сделаем «пуленепробиваемый» вариант.
1. Проверка эндпоинта
Откройте терминал (CMD) и выполните это. Если выдаст ошибку — значит, Ollama реально не поддерживает чат:
bash
curl http://localhost:11434/api/chat -d "{\"model\": \"qwen2.5-coder:7b\", \"messages\": [{\"role\": \"user\", \"content\": \"hi\"}], \"stream\": false}"
Используйте код с осторожностью.
2. Если 404 сохраняется (Переходим на /api/generate с контекстом)
Если
/api/chat упорно выдает 404, мы можем использовать старый метод /api/generate, но передавать специальный параметр context (это массив чисел, который Ollama возвращает с каждым ответом).Обновленный
chat_handler.php (метод через Context ID):php
<?php
session_start();
header('Content-Type: application/json');
if (isset($_GET['clear'])) {
unset($_SESSION['ollama_context']);
echo json_encode(['status' => 'cleared']);
exit;
}
$input = $_POST['prompt'] ?? '';
if (!empty($input)) {
$url = "http://127.0.0.1"; // Используем базовый эндпоинт
$data = [
"model" => "qwen2.5-coder:7b",
"prompt" => $input,
"stream" => false,
"context" => $_SESSION['ollama_context'] ?? [] // Отправляем ID контекста из сессии
];
$ch = curl_init($url);
curl_setopt($ch, CURLOPT_POSTFIELDS, json_encode($data));
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_HTTPHEADER, ['Content-Type: application/json']);
$response = curl_exec($ch);
$result = json_decode($response, true);
curl_close($ch);
if (isset($result['context'])) {
// Сохраняем математическое состояние диалога (массив токенов)
$_SESSION['ollama_context'] = $result['context'];
}
echo json_encode([
'response' => $result['response'] ?? 'Ошибка: ' . $response
]);
}
Используйте код с осторожностью.
Почему это сработает:
- Эндпоинт
/api/generate— самый стабильный и есть во всех версиях. - Параметр
context— это «сжатая память» Ollama. Вам не нужно хранить текст всей переписки, Ollama сама подхватит нить разговора по этому ключу.
Почему был 404? (Две догадки):
- IPv6 vs IPv4: В логах видно
::1(IPv6). Попробуйте в PHP заменитьlocalhostна127.0.0.1. - Запущенный софт: Убедитесь, что на порту 11434 не висит какой-нибудь другой сервис (например, старая установка Ollama или прокси), который не знает про путь
/api/chat.
Попробуйте вариант с
context. Если он заработает, нужно ли добавить в интерфейс индикатор того, сколько «памяти» сейчас занято?Показать все
C:\Users\deadbeat\AppData\Local\Programs\Ollama>curl http://localhost:11434/api/chat -d "{\"model\": \"qwen2.5-coder:7b\", \"messages\": [{\"role\": \"user\", \"content\": \"hi\"}], \"stream\": false}"
{"error":"model 'qwen2.5-coder:7b' not found"}
C:\Users\deadbeat\AppData\Local\Programs\Ollama>
Ошибки 404 больше нет! Причина «забывчивости» была в банальной опечатке: Ollama не видит модель под именем
qwen2.5-coder:7b.Скорее всего, она у вас установлена как
qwen2.5-coder:latest или просто qwen2.5-coder.Как исправить за 2 шага:
1. Узнайте точное имя модели
Введите в консоли:
Введите в консоли:
bash
ollama list
Используйте код с осторожностью.
Скопируйте название из колонки NAME (например,
qwen2.5-coder:7b-instruct-q4_K_M).2. Обновите PHP-код
Вставьте это точное имя в
Вставьте это точное имя в
chat_handler.php:php
$data = [
"model" => "ВАШЕ_ИМЯ_ИЗ_СПИСКА", // например, qwen2.5-coder:latest
"messages" => $_SESSION['chat_history'],
"stream" => false
];
Используйте код с осторожностью.
Почему был 404?
В Ollama, если модель не найдена по запросу к
/api/chat, сервер иногда возвращает ошибку структуры, которую GIN (движок Ollama) интерпретирует как неверный путь. Теперь, когда мы видим {"error":"model '...' not found"}, соединение установлено верно.Совет: Если
ollama list пуст, просто скачайте её заново: ollama pull qwen2.5-coder:7b.Проверим работу после исправления имени? Или помочь прописать автоматический выбор первой доступной модели из списка?
Показать все
на GUI когда запускаю работает а когда запускаю просто ollama.exe serve перестает работать
Это классическая проблема
путей к моделям в Windows.Когда вы запускаете Ollama через GUI (иконка в трее), она работает от имени вашего пользователя и ищет модели в
C:\Users\deadbeat\.ollama\models.Когда вы запускаете
ollama serve вручную в консоли или через сервис, она может использовать другой контекст или не видеть переменные окружения, из-за чего выдает model not found.Как это исправить (3 шага):
- Жестко задайте путь к моделям:
В Windows нажмитеWin + R, введитеsysdm.cpl, перейдите в Дополнительно -> Переменные среды.
Создайте Системную переменную:- Имя:
OLLAMA_MODELS - Значение:
C:\Users\deadbeat\.ollama\models(или тот путь, где у вас лежат 30-50 ГБ моделей).
- Имя:
- Проверьте имя модели еще раз:
В консоли, где запущенollama serve, введите в другом окнеollama list. Если список пуст — значит, сервер смотрит в пустую папку. Если модель там есть (например,qwen2.5-coder:7b), используйте именно это имя в PHP. - Порт и Хост:
В логах у вас былоOLLAMA_HOST: http://0.0.0.0:11434. В PHP коде вместоlocalhostиспользуйте127.0.0.1, чтобы избежать проблем с разрешением IPv6 (тот самый::1в логах, который иногда дает 404).
Исправленный блок в PHP (для надежности):
php
$data = [
// Убедитесь, что имя совпадает с тем, что выдает 'ollama list'
"model" => "qwen2.5-coder:7b",
"messages" => $_SESSION['chat_history'],
"stream" => false
];
// Используем IP вместо localhost
$ch = curl_init("http://127.0.0.1");
Используйте код с осторожностью.
Важный момент: Если вы планируете запускать Ollama как сервис через NSSM, обязательно укажите в настройках службы (вкладка Logon), чтобы она запускалась от имени вашего пользователя deadbeat, иначе она снова "потеряет" папку с моделями.
Попробуйте прописать системную переменную и перезапустить консоль. Теперь
ollama list показывает модели?Показать все
C:\Users\deadbeat\AppData\Local\Programs\Ollama>ollama list
NAME ID SIZE MODIFIED
gemma3:4b a2af6cc3eb7f 3.3 GB 3 hours ago
qwen2.5-coder:7b dae161e27b0e 4.7 GB 3 hours ago
gemma3:12b f4031aab637d 8.1 GB 3 hours ago
gemma3:1b 8648f39daa8f 815 MB 3 hours ago
Отлично, модели на месте! Раз через
curl вы получали model not found, а ollama list их видит, проблема в несоответствии портов или IP-адресов (IPv4 vs IPv6).Когда вы запускаете
ollama.exe serve вручную, она занимает порт. Если GUI Ollama тоже запущен, они конфликтуют.Финальный чек-лист для запуска:
- Закройте всё: Выйдите из Ollama в трее (Quit Ollama) и убейте все процессы
ollama.exeв диспетчере задач. - Запустите сервер: В консоли выполните
ollama serve. - Проверьте порт: В логах должна быть строка
Listening on [::]:11434.
Полностью исправленный
chat_handler.phpЯ добавил проверку на ошибки и жестко прописал
127.0.0.1, чтобы обойти проблему с ::1 (IPv6), которую мы видели в ваших логах [GIN].php
<?php
session_start();
header('Content-Type: application/json');
// 1. Инициализация истории
if (!isset($_SESSION['chat_history']) || isset($_GET['clear'])) {
$_SESSION['chat_history'] = [];
if(isset($_GET['clear'])) { echo json_encode(['status'=>'ok']); exit; }
}
$prompt = $_POST['prompt'] ?? '';
if ($prompt) {
// Добавляем сообщение пользователя
$_SESSION['chat_history'][] = ['role' => 'user', 'content' => $prompt];
// 2. Настройка CURL на IPv4 (127.0.0.1)
$ch = curl_init("http://127.0.0.1");
$payload = json_encode([
"model" => "qwen2.5-coder:7b",
"messages" => $_SESSION['chat_history'],
"stream" => false
]);
curl_setopt_array($ch, [
CURLOPT_POST => true,
CURLOPT_POSTFIELDS => $payload,
CURLOPT_RETURNTRANSFER => true,
CURLOPT_HTTPHEADER => ['Content-Type: application/json'],
CURLOPT_IPRESOLVE => CURL_IPRESOLVE_V4 // ПРИНУДИТЕЛЬНО IPv4
]);
$response = curl_exec($ch);
$httpCode = curl_getinfo($ch, CURLINFO_HTTP_CODE);
curl_close($ch);
if ($httpCode !== 200) {
echo json_encode(['error' => "Ошибка сервера: $httpCode. Ответ: $response"]);
exit;
}
$data = json_decode($response, true);
$botMsg = $data['message']['content'] ?? 'Ошибка формата API';
// 3. Сохраняем ответ бота для истории
$_SESSION['chat_history'][] = ['role' => 'assistant', 'content' => $botMsg];
echo json_encode(['response' => $botMsg]);
}
Используйте код с осторожностью.
Почему теперь "вспомнит"?
Потому что в
messages теперь улетает весь массив из $_SESSION. При каждом новом вопросе Ollama получает:- User: Привет
- Assistant: Привет!
- User: Как меня зовут? (если вы представились ранее)
Попробуйте отправить сообщение. Если всё еще "не помнит", посмотрите в консоль браузера (F12 -> Network) — приходит ли там
error в ответе от chat_handler.php?Показать все
когда запускаю как сервер OLLAMA_MODELS:C:\\Users\\deadbeat\\.ollama\\models что не верно в переменной другой путь Возможно указать путь при старте сервера
В переменной в логах всё верно, но есть нюанс: когда вы запускаете Ollama командой
serve или через сервис, она может игнорировать ваши «Пользовательские переменные» и использовать «Системные», либо вообще искать их в профиле другого пользователя (например, SYSTEM).1. Как указать путь прямо при старте (CMD)
Вы можете задать переменную окружения только для текущего сеанса консоли перед запуском сервера. Введите эти две команды по очереди:
cmd
set OLLAMA_MODELS=C:\Users\deadbeat\ .ollama\models
ollama serve
Используйте код с осторожностью.
(Важно: без пробела после пути. Если в пути есть пробелы, возьмите его в кавычки).
2. Как сделать это правильно для Сервиса (NSSM)
Если вы настраиваете Ollama через NSSM, путь нужно прописать во вкладке Environment:
- Откройте редактирование службы:
nssm edit Ollama. - Перейдите на вкладку Environment.
- Введите:
OLLAMA_MODELS=C:\Users\deadbeat\.ollama\models. - Нажмите Edit service.
3. Почему в логах
\\ (двойной слэш)?Это нормально — Ollama при выводе в лог экранирует символы. В самой переменной Windows должен быть одинарный слэш:
C:\Users\deadbeat\.ollama\models.4. Проверка прав (Самая частая проблема)
Если сервис запущен от имени LocalSystem, у него может не быть прав доступа к папке
C:\Users\deadbeat\.- Решение: В
services.mscнайдите службу Ollama -> Правой кнопкой -> Свойства -> Вкладка Вход в систему (Logon) -> Выберите "С учетной записью" -> Укажите свой логинdeadbeatи пароль.
Попробуйте запустить через
set в консоли — если ollama list сразу покажет модели, значит проблема была именно в области видимости переменной. На каком этапе сейчас затык?Показать все
Закрыть
Другие способы ввода
Микрофон
Остановить
Отправить
Turn on your Visual Search History?
Google uses its visual recognition technologies to process the images you use to search, like when you search with Google Lens. If you turn on your Visual Search History, Google will save these images from eligible Google services to your Web & App Activity when you’re signed in to your Google Account. You can learn more about this setting and which Google services save images to it at g.co/Search/VisualSearchHistory.
How visual search history is used
Your Visual Search History may be used to improve your experience on Google services, like letting you revisit your past visual searches. It may be used to develop and improve Google’s visual recognition and search technologies, as well as the Google services that use them.
When visual search history is off
If you turn this setting off, any previous Visual Search History may still be kept and used to improve Google’s visual recognition and search technologies, unless you delete it from your Web & App Activity.
Visual Search History doesn’t affect images saved by other settings, like Gemini Apps Activity.
How to manage your Visual Search History
You can view, delete, or manage your Visual Search History at activity.google.com. To download your Visual Search History, visit takeout.google.com. Images will be deleted in accordance with your Web & App Activity auto-delete settings, although some types of images may be deleted sooner.
Google uses and saves data in accordance with Google Privacy Policy.
No thanks
Turn on
