Метод конечных элементов в геотехнике

Классические методы геотехнического расчёта — аналитические формулы теории упругости, методы предельного равновесия для откосов, инженерные подходы к расчёту подпорных стен и свайных фундаментов — работают в идеализированных условиях: однородный массив, простая геометрия, одномерные допущения. Для задач, где важна совместная работа грунта и конструкции, где массив слоистый и имеет сложную геометрию, где одновременно идут выемка грунта, водопонижение, установка распорок и постепенная загрузка — аналитика не справляется.

МКЭ позволяет собрать все эти условия в одну численную модель и получить картину напряжённо-деформированного состояния (НДС) массива на каждом этапе. На этом строится современная геотехника: оценка влияния строительства на окружающую застройку, расчёт ограждений котлованов, прогноз осадок фундаментных плит, устойчивость откосов через снижение прочностных характеристик (в Plaxis метод называется phi-c редукция, в Midas GTS NX — SRM, Strength Reduction Method). СП 22.13330.2016 прямо называет МКЭ в числе методов совместного расчёта сооружения и основания (п. 5.1.10), требует учитывать их взаимодействие при расчёте зоны влияния нового строительства на существующие здания и задаёт правила верификации численных моделей (п. 5.1.11, 5.1.13) и применения моделей грунта с упрочнением (п. 5.1.12а).

Сегодня МКЭ — промышленный стандарт: в России это Plaxis 2D/3D, Midas GTS NX, Sio2D, Нелинейность и ряд других комплексов, работающих на одних и тех же методических принципах.

Непрерывный массив грунта бесконечен по числу точек — решить для него дифференциальные уравнения равновесия и совместности деформаций в аналитическом виде нельзя (кроме отдельных частных случаев). МКЭ обходит это в четыре этапа.

1. Дискретизация. Область расчёта (грунтовый массив и конструкции) разбивается на конечное число элементов. В 2D это треугольники с 3, 6 или 15 узлами (Plaxis работает только с ними) или четырёхугольники с 4–8 узлами (Midas GTS NX, Z_Soil). В 3D — тетраэдры с 10 узлами (Plaxis 3D), гексаэдры 8–20-узловые и призмы (Midas GTS NX). Узлы сгущаются в зонах высоких градиентов — у углов котлована, под основанием свай, у острия шпунтовой стенки.
2. Аппроксимация в элементе. Внутри элемента перемещения интерполируются по узлам через функции формы. Каждый узел даёт 2 или 3 степени свободы (по числу пространственных координат).
3. Сборка системы уравнений. Для всей сетки составляется глобальная система вида [K]·{u} = {F}: матрица жёсткости K, вектор узловых перемещений u, вектор приведённых узловых нагрузок F. Для сетки из 100 000 узлов это система в сотни тысяч уравнений.
4. Решение с учётом нелинейности. Поведение грунта принципиально нелинейно: модуль жёсткости зависит от напряжения и истории нагружения. Задача решается итерационно — модифицированный метод Ньютона-Рафсона, шагами приращения нагрузки. На каждой итерации пересчитываются напряжения в точках Гаусса, обновляется матрица жёсткости и проверяется сходимость.

На выходе — узловые перемещения и напряжения в точках интегрирования. Они визуализируются как изополя деформаций, траектории главных напряжений, карты коэффициентов запаса устойчивости.

Решение МКЭ — приближённое. Качество результата зависит от плотности сетки, размера расчётной области, корректно заданных граничных условий и выбора модели грунта. Это отдельная инженерная задача, в которой опыт важнее, чем кажется из учебников.

Переход от 2D к 3D увеличивает размер задачи на 1–2 порядка: сетка из 20 000 элементов в плане превращается в сотни тысяч тетраэдров, время расчёта растёт с минут до часов, а требования к параметризации модели грунта и исходным данным изысканий — многократно. Поэтому решение о размерности — не «выбрать точнее», а «выбрать достаточно».

Когда хватает 2D (плоское деформированное состояние). Длинные объекты, в которых одно сечение повторяется по длине: протяжённые котлованы, подпорные стены, насыпи, траншеи коммуникаций на значительной длине. Выбирается характерное сечение в средней части (вдали от углов), для которого гипотеза плоской деформации даёт адекватную оценку.

Осесимметричная постановка. Сваи-стойки, резервуары, круглые камеры — симметрия относительно вертикальной оси. Задача решается в полуплоскости и по затратам близка к 2D.

Когда нужен 3D.

• Угловые зоны котлованов — в углу деформации ограждения и прилегающего грунта качественно отличаются от середины длинной стенки.
• Несимметричная окружающая застройка: существующее здание рядом только с одной стороны котлована, выступающие секции подвалов.
• Групповые эффекты свайных кустов, где количество свай невелико и взаимодействие между ними нелинейно.
• Сложная геометрия в плане: котлованы Г-образной формы, узлы примыкания стен, пересечения коммуникаций.

Для ОВС на стадии П в подавляющем большинстве случаев достаточно 2D-модели по характерному сечению. 3D применяется точечно там, где 2D даёт систематически неверный результат.

В одной МКЭ-модели можно получить сразу несколько инженерных результатов, связанных единой системой напряжений и деформаций.

Напряжённо-деформированное состояние (НДС). Изополя вертикальных и горизонтальных перемещений массива, главные напряжения и их траектории, девиатор напряжений — индикатор зон, в которых грунт близок к предельному состоянию.

Осадки и деформации. Осадка фундаментной плиты по контрольным точкам, дополнительная осадка существующих зданий в зоне влияния нового строительства, неравномерные осадки — относительная разность и крен.

Устойчивость. Метод пошагового снижения прочностных характеристик (в Plaxis — phi-c редукция, в Midas GTS NX — SRM). Параметры прочности грунта (сцепление c и тангенс угла внутреннего трения tg φ) пошагово понижаются до наступления разрушения; отношение исходных значений к критическим и есть коэффициент устойчивости F_s. Применяется для откосов, подпорных стен, ограждений котлованов «в целом».

Усилия в конструкциях. Изгибающие моменты и поперечные силы в ограждении котлована, подпорной стене, свае; продольные усилия в распорках и анкерах. Эти усилия передаются в конструкторский (КЖ) раздел для подбора армокаркасов.

Фильтрация и консолидация. Распределение пьезометрических уровней при водопонижении, изменение эффективных напряжений во времени при консолидации слабых слоёв — связанная задача «грунт-вода» (coupled pore pressure analysis).

Распространённая ошибка — считать, что «посчитано в Plaxis» означает «посчитано правильно». МКЭ — это численный аппарат, не физический закон. Поведение грунта в каждой точке задаётся отдельно, через модель поведения (constitutive model). От выбора модели зависит не меньше, чем от корректной постановки численной схемы.

Базовый набор для геотехники:

• Мора-Кулона (MC) — упруго-идеально-пластическая модель, 5 параметров (E, ν, c, φ, ψ). Годится для быстрых оценок устойчивости, но систематически занижает жёсткость при разгрузке.
• Hardening Soil (HS) — упрочнение с тремя модулями жёсткости (E₅₀, E_oed, E_ur) и зависимостью жёсткости от напряжения. Промышленный стандарт для глубоких котлованов и ОВС.
• Hardening Soil Small Strain (HSS) — HS с учётом малых деформаций (G₀, γ₀.₇). Критична для чувствительной существующей застройки и точных расчётов зоны влияния.
• Modified Cam-Clay, Soft Soil, Soft Soil Creep — для глинистых и слабых оснований: консолидация, ползучесть, развитие порового давления. Plaxis Soft Soil — гибрид: volumetric cap по логике Modified Cam-Clay плюс failure-критерий Мора-Кулона.

Модель Мора-Кулона с занижённой жёсткостью даёт завышенные деформации и «пугающий» прогноз; Hardening Soil с неправильно подобранным E_ur систематически искажает прогноз: завышенный E_ur даёт недооценку осадок (опасно для ОВС), заниженный — переоценку. Правильный результат требует и адекватной численной схемы, и грамотно подобранной модели под конкретный грунт и тип задачи.

МКЭ даёт точный ответ на ту задачу, которая в него заложена. Если задача поставлена некорректно, результат будет красиво нарисован и совершенно бесполезен.

GIGO — garbage in, garbage out. Главный источник ошибок — качество инженерно-геологических изысканий. Занижённые или завышенные модули жёсткости из лабораторных испытаний, неучтённая история нагружения (преконсолидация), непредставительные колонки для неоднородного массива — превращают МКЭ в генератор цифр, не имеющих инженерного смысла.

Граничные условия. Расчётная область ограничена — на её границах задаётся либо запрет перемещений, либо условие на напряжение. Если граница ближе, чем 3–4 глубины сооружения, результат искажается краевыми эффектами.

Параметризация модели грунта. Hardening Soil требует 8–10 параметров. E_ur^ref получают из расширенной программы триаксиальных испытаний — с циклами разгрузки-повторного нагружения; в стандартную ГОСТ-программу ИГИ такие испытания не входят, заказывают отдельно. Показатель степени m и коэффициент разрушения R_f, как правило, назначают по литературным рекомендациям (m ≈ 0.5 для песков, ≈ 1.0 для глин; R_f ≈ 0.75–0.9). Небрежное назначение обнуляет преимущество продвинутой модели перед Мора-Кулона.

Этапность. В геотехнике результат зависит от порядка нагрузок (выемка, водопонижение, возведение конструкций, последующее нагружение). Staged construction требует аккуратного построения этапов — одна пропущенная стадия меняет итоговые деформации.

Верификация. Результат МКЭ всегда сверяется с инженерной оценкой: аналитические методы, прецеденты на похожих объектах, данные геотехнического мониторинга при наличии. Расхождение в 2–3 раза — это не повод «поверить модели», это повод искать ошибку.