Установка и использование Radamsa для фаззи-тестирования программ и сетевых служб в Ubuntu 18.04

Автор выбрал Electronic Frontier Foundation Inc для получения пожертвований в рамках программы Write for DOnations.

Введение

Угрозы безопасности постоянно возрастают, и поэтому разработчикам и системным администраторам требуется применять упреждающий подход к защите и тестированию безопасности приложений.

Для тестирования безопасности клиентских приложений и сетевых служб часто используется метод фаззинга, заключающийся в повторяющейся отправке в приложение недопустимых или неправильно отформатированных данных и последующем анализе получаемых ответов. Это полезно для тестирования надежности и устойчивости приложений к незапланированным вводным данным, включая поврежденные данные и реальные атаки.

Radamsa — инструмент для фаззинга с открытым исходным кодом, позволяющий генерировать тестовые примеры на основе задаваемых пользователем входных данных. Radamsa полностью поддерживает скрипты и успешно выявляет уязвимости в реальных приложениях, таких как Gzip.

В этом обучающем руководстве мы выполним установку Radamsa и используем этот инструмент для фаззи-тестирования сетевых приложений и приложений командной строки с использованием собственных примеров.

Предварительные требования

Для прохождения этого обучающего руководства вам потребуется следующее:

• Один сервер Ubuntu 18.04, настроенный в соответствии с указаниями руководства Начальная настройка сервера Ubuntu 18.04, включая пользователя sudo без привилегий root и активный брандмауэр для блокирования ненужных портов.
• Приложение командной строки или сетевое приложение, которое вы хотите протестировать, например Gzip, Tcpdump, Bind, Apache, jq или любое другое приложение по вашему выбору. Для целей этого обучающего руководства в качестве примера мы будем использовать jq.

Подготовив все вышеперечисленное, войдите на сервер без привилегий root, чтобы начать подготовку.

Шаг 1 — Установка Radamsa

Прежде всего, мы загрузим и выполним компиляцию Radamsa для использования этого инструмента в нашей системе. Исходный код Radamsa доступен в официальном репозитории на GitLab.

Для начала мы обновим указатель локальных пакетов, чтобы отразить последние изменения на предыдущих уровнях:

sudo apt update

Затем мы установим пакеты gcc, git, make и wget, необходимые для компиляции исходного кода в исполняемый двоичный файл:

sudo apt install gcc git make wget

После подтверждения установки apt выполнит загрузку и установку указанных пакетов и всех необходимых зависимостей.

Затем мы загрузим копию исходного кода Radamsa, клонировав ее из репозитория на GitLab:

git clone https://gitlab.com/akihe/radamsa.git

При этом будет создана директория radamsa с исходным кодом приложения. Перейдите в эту директорию, чтобы начать компиляцию кода:

cd radamsa

Далее вы можете запустить процесс компиляции с помощью make:

make

Теперь мы можем установить скомпилированный двоичный файл Radamsa в директорию $PATH:

sudo make install

После этого мы можем проверить установленную версию и убедиться, что все работает правильно:

radamsa --version

Экран результатов должен выглядеть примерно следующим образом:

Output
Radamsa 0.6

Если появится сообщение об ошибке radamsa: command not found, необходимо проверить установку всех требуемых зависимостей и убедиться в отсутствии ошибок при компиляции.

Мы установили Radamsa и теперь можем рассмотреть примеры тестов, чтобы понять, как работает Radamsa и для чего его можно использовать.

Шаг 2 — Подготовка примеров для фаззинга

Мы установили Radamsa и теперь можем использовать его для рассмотрения нескольких примеров фаззинга.

Пример представляет собой элемент данных, который используется для ввода в тестируемую программу. Например, если вы выполняете фаззинг программы архивирования, такой как Gzip, в качестве примера можно использовать архив файлов, который вы попытаетесь распаковать.

Вначале следует передать в Radamsa простой текстовый элемент и посмотреть, что произойдет в результате:

echo "Hello, world!" | radamsa

Вводимые данные будут изменены (фаззинг) и получится пример для тестирования:

Output
Hello,, world!

В данном случае Radamsa добавил запятую между Hello и world. Это изменение может выглядеть незначительным, но в некоторых приложениях это может привести к неправильной интерпретации данных.

Повторим попытку, запустив ту же самую команду еще раз. Вы увидите другой результат:

Output
Hello, '''''''wor'd!

На этот раз мы вставили в строку несколько одинарных кавычек ('), в том числе один символ, заменивший l в слове world. Этот пример с большей вероятностью вызовет проблемы в приложении, поскольку одинарные и двойные кавычки часто используются как разделители элементов данных в списке.

Повторим попытку еще один раз:

Output
Hello, $+$PATH\u0000`xcalc`world!

В данном случае Radamsa вставляет строку оболочки, которая поможет тестировать приложение на уязвимость к вставке команд.

Мы использовали Radamsa для фаззинга вводимой строки и подготовили ряд примеров для тестирования. Далее мы используем Radamsa для фаззинга приложения командной строки.

Шаг 3 — Фаззинг приложения командной строки

На этом шаге мы используем Radamsa для фаззинга приложения командной строки и получения отчета о сбоях.

Конкретные методики фаззинга различаются для разных случаев, и для каждой программы подходят свои методы. В этом обучающем руководстве мы используем в качестве примера программу командной строки jq, предназначенную для обработки данных JSON.

Вы можете использовать любую другую программу подобного рода, если она также принимает структурированные или неструктурированные данные, выполняет с ними какие-то операции и выводит результат. В частности, данный пример также подойдет для Gzip, Grep, bc, tr и т. д.

Если вы еще не установили jq, вы можете выполнить установку сейчас с помощью apt:

sudo apt install jq

Сейчас будет выполнена установка jq.

Чтобы начать фаззинг, создайте образец файла JSON, который будете использовать в качестве исходного для Radamsa:

nano test.json

Добавьте в файл следующие данные JSON:

{
  "test": "test",
  "array": [
    "item1: foo",
    "item2: bar"
  ]
}

Вы можете проверить этот файл с помощью jq, если хотите убедиться в правильности синтаксиса JSON:

jq . test.json

Если синтаксис JSON правильный, jq выведет файл. В противном случае будет выведено сообщение об ошибке, которое вы сможете использовать для исправления синтаксиса в случае необходимости.

Далее мы проведем фаззинг тестового файла JSON в Radamsa и передадим его в jq. В результате jq прочитает измененный тестовый файл, а не первоначальные правильные данные JSON:

radamsa test.json | jq

Если Radamsa изменит данные JSON так, что синтаксис останется верным, jq выведет данные со всеми изменениями, которые были внесены Radamsa.

Если Radamsa изменит формат данных JSON на неверный, программа jq выдаст сообщение об ошибке. Например:

Output
parse error: Expected separator between values at line 5, column 16

Также возможно, что jq не сможет правильно обработать искаженные данные, в результате чего будет наблюдаться сбой или неправильное поведение программы. Именно этого мы и ждем от фаззинга, поскольку такое поведение может указывать на уязвимость безопасности, например при переполнении буфера или вставке команд.

Чтобы более эффективно тестировать программы на такие уязвимости, можно автоматизировать фаззинг с помощью скрипта Bash, который будет генерировать тестовые примеры, передавать их в программу и собирать результаты.

Создайте файл с именем jq-fuzz.sh:

nano jq-fuzz.sh

Точное содержание скрипта будет зависеть от типа тестируемой программы и входящих данных, однако для jq и других подобных программ следующий скрипт будет достаточным.

Скопируйте скрипт в файл jq-fuzz.sh:

#!/bin/bash
while true; do
  radamsa test.json > input.txt
  jq . input.txt > /dev/null 2>&1
  if [ $? -gt 127 ]; then
    cp input.txt crash-`date +s%.%N`.txt
    echo "Crash found!"
  fi
done

Этот скрипт содержит оператор while, чтобы сделать его содержимое цикличным. При каждом цикле скрипта Radamsa генерирует тестовый пример на базе файла test.json и сохраняет его в файл input.txt.

Тестовый пример input.txt пропускается через jq так, что все стандартные сообщения и сообщения об ошибках направляются в /dev/null для предотвращения переполнения экрана терминала.

В заключение проверяется значение jq на выходе. Если значение на выходе превышает 127, это означает критическое завершение работы (сбой), и в этом случае входные данные сохраняются для последующего использования в файле с именем crash- и суффиксом текущей даты Unix с указанием секунд и наносекунд.

Отметьте этот скрипт как исполняемый и запустите его для автоматического тестирования jq методом фаззинга:

chmod +x jq-fuzz.sh
./jq-fuzz.sh

Вы можете в любой момент нажать CTRL+C для остановки скрипта. Затем вы сможете проверить наличие сбоев, используя ls для вывода списка директории с созданными файлами регистрации сбоев.

Вы можете улучшить входные данные JSON, поскольку использование более сложного входного файла, вероятно, повысит качество результатов фаззинга. Избегайте использовать большие файлы или файлы с большим объемом повторяющихся данных. Идеальный исходный файл должен иметь небольшой размер, но при этом содержать как можно больше сложных элементов. Например, хороший входной файл будет содержать образцы данных, сохраненные во всех форматах, включая строки, целые числа, булевы операторы, списки и объекты, а также вложенные данные, если это возможно.

Мы использовали Radamsa для фаззинга приложения командной строки. Далее мы будем использовать Radamsa для фаззинга запросов сетевых служб.

Шаг 4 — Фаззинг запросов сетевых служб

Radamsa также можно использовать для фаззинга сетевых служб, при этом он может выступать или в качестве сетевого клиента, или в качестве сервера. На этом шаге мы будем использовать Radamsa для фаззинга сетевой службы, где Radamsa будет выступать в качестве клиента.

Цель фаззинга сетевых служб заключается в проверке устойчивости сетевой службы к отправке клиентами неправильно сформированных и/или вредоносных данных. Многие сетевые службы, в том числе веб-серверы и серверы DNS, обычно доступны из Интернета и часто становятся целью злоумышленников. Сетевая служба, которая недостаточно устойчива к неправильно сформированным данным, может прекратить работу или даже потерять работоспособность в открытом состоянии, в результате чего злоумышленники получат доступ к важным данным, таким как ключи шифрования или пользовательские данные.

Конкретные методики фаззинга сетевых служб различаются в зависимости от сетевой службы. В данном примере мы используем Radamsa для фаззинга простого веб-сервера, выдающего статический контент в формате HTML.

Вначале нужно настроить веб-сервер для тестирования. Для этой цели можно использовать встроенный сервер разработки, входящий в состав пакета php-cli. Также для тестирования веб-сервера нам потребуется curl.

Если у вас не установлены php-cli и/или curl, вы можете установить их с помощью apt:

sudo apt install php-cli curl

Затем создайте директорию для хранения файлов веб-сервера и перейдите в нее:

mkdir ~/www
cd ~/www

Далее создайте файл HTML с образцом текста:

nano index.html

Добавьте в файл следующее:

<h1>Hello, world!</h1>

Теперь вы можете запустить свой веб-сервер PHP. Вам потребуется возможность просматривать журнал веб-сервера во время использования другого сеанса терминала, и поэтому нужно открыть другой сеанс терминала и канал SSH для подключения к серверу:

cd ~/www
php -S localhost:8080

Будет выведен текст следующего вида:

Output
PHP 7.2.24-0ubuntu0.18.04.1 Development Server started at Wed Jan  1 16:06:41 2020
Listening on http://localhost:8080
Document root is /home/user/www
Press Ctrl-C to quit.

Теперь вы можете вернуться к исходному сеансу терминала и проверить работу веб-сервера с помощью curl:

curl localhost:8080

В результате будет выведен образец файла index.html, который вы создали ранее:

Output
<h1>Hello, world!</h1>

Для вашего веб-сервера потребуется только локальный доступ, поэтому не следует открывать для него порты брандмауэра.

Мы настроили тестовый веб-сервер и теперь можем начать фаззинг с помощью Radamsa.

Для начала нам потребуется создать образец запроса HTTP, который будет использоваться в качестве исходных данных Radamsa. Создайте новый файл для его сохранения:

nano http-request.txt

Затем скопируйте в файл следующий образец запроса HTTP:

GET / HTTP/1.1
Host: localhost:8080
User-Agent: test
Accept: */*

Теперь мы можем использовать Radamsa для отправки этого запроса HTTP на локальный веб-сервер. Для этого нужно использовать Radamsa в качестве клиента TCP, что можно сделать посредством указания IP-адреса и порта для подключения:

radamsa -o 127.0.0.1:8080 http-request.txt

Если вы просмотрите журналы локального веб-сервера, вы увидите, что он получал запросы, однако вряд ли обрабатывал их, поскольку они были недопустимыми или неправильно сформированными.

Журналы будут отображаться во втором окне терминала:

Output
[Wed Jan  1 16:26:49 2020] 127.0.0.1:49334 Invalid request (Unexpected EOF)
[Wed Jan  1 16:28:04 2020] 127.0.0.1:49336 Invalid request (Malformed HTTP request)
[Wed Jan  1 16:28:05 2020] 127.0.0.1:49338 Invalid request (Malformed HTTP request)
[Wed Jan  1 16:28:07 2020] 127.0.0.1:49340 Invalid request (Unexpected EOF)
[Wed Jan  1 16:28:08 2020] 127.0.0.1:49342 Invalid request (Malformed HTTP request)

Для получения оптимальных результатов и гарантированной регистрации сбоев можно использовать скрипт автоматизации, аналогичный использованному на шаге 3. Также следует попробовать использовать более сложный исходный файл, который может содержать такие дополнения, как дополнительные заголовки HTTP.

Мы провели тестирование сетевой службы методом фаззинга, использовав Radamsa в качестве клиента TCP. Теперь мы проведем фаззинг сетевого клиента, используя Radamsa в качестве сервера.

Шаг 5 — Фаззинг сетевых клиентских приложений

На этом шаге мы используем Radamsa для тестирования сетевого клиентского приложения методом фаззинга. Это реализуется посредством перехвата ответов сетевой службы и их искажения до поступления на клиент.

Цель такого фаззинга заключается в проверке устойчивости клиентских приложений сети к получению неправильно сформированных или вредоносных данных от сетевых служб. В качестве примера можно привести тестирование браузера (клиента), получающего неправильно сформированный код HTML от веб-сервера (сетевой службы) или тестирование клиента DNS, получающего неправильно сформированные ответы DNS от сервера DNS.

Как и в случае с фаззингом приложений командной строки или сетевых служб, конкретная методика фаззинга разных сетевых клиентских приложений может значительно различаться, однако в этом примере мы используем whois, простое приложение для приема/передачи на базе TCP.

Приложение whois используется для отправки запросов на серверы WHOIS и получения записей WHOIS в составе ответов. WHOIS работает через порт TCP 43 в формате простого текста, что делает его отличным вариантом для фаззинга сетевого клиента.

Если у вас еще нет приложения whois, вы можете установить его с помощью apt:

sudo apt install whois

Прежде всего, необходимо получить пример ответа whois для использования в качестве исходных данных. Для этого можно создать запрос whois и сохранить результат в файл. Здесь вы можете использовать любой домен, поскольку будете тестировать всю программу whois локально, используя образцы данных:

whois example.com > whois.txt

Далее вам потребуется настроить Radamsa в качестве сервера, который будет отправлять искаженные версии этого ответа whois. Когда Radamsa будет работать в серверном режиме, вам нужна будет возможность и дальше использовать терминал, и для этого нужно будет открыть другой сеанс терминала и канал SSH для связи с сервером:

radamsa -o :4343 whois.txt -n inf

Теперь Radamsa будет работать в режиме сервера TCP и будет отправлять искаженную версию файла whois.txt при каждой попытке подключения к серверу, вне зависимости от того, какие данные запроса будут получены.

Теперь вы можете перейти к тестированию клиентского приложения whois. Вам потребуется нормальный запрос whois для любого домена по вашему выбору (не обязательно для того, для которого предназначен образец), но при этом whois должен указывать на ваш локальный сервер Radamsa:

whois -h localhost:4343 example.com

Ответ будет содержать образец данных, искаженный Radamsa. Пока Radamsa будет работать, вы сможете и дальше отправлять запросы на локальный сервер, и каждый раз он будет выдавать разные искаженные ответы.

Как и в случае с фаззингом сетевых служб, вы можете написать скрипт автоматизации, аналогичный использованному на шаге 3, чтобы повысить эффективность фаззинга сетевых клиентов и гарантировать регистрацию сбоев.

На этом заключительном шаге мы использовали Radamsa для тестирования сетевого клиентского приложения методом фаззинга.

Заключение

В этом обучающем руководстве мы научились настраивать Radamsa и использовать его для тестирования приложения командной строки, сетевой службы и сетевого клиента методом фаззинга. Теперь у вас имеются базовые знания, необходимые для тестирования ваших собственных приложений методов фаззинга. Надеемся, что это поможет вам повысить их надежность и устойчивость к атакам.

Если вы хотите узнать больше о Radamsa, вы можете более подробно ознакомиться с файлом Radamsa README, где содержится дополнительная техническая информация и дополнительные примеры использования:

• Файл Radamsa README

Также вы можете рассмотреть и другие инструменты для фаззинга, например продвинутую программу фаззинга American Fuzzy Lop (AFL), предназначенную для тестирования двоичных приложений с очень высокой скоростью и точностью:

• American Fuzzy Lop