10 класс

Решение: нам нужно разместить вершины треугольника в вершинах 8-угольника. Очень важно - то, что стороны фигур не совпадают. Т.е. вершины треугольника не должны лежать на одной стороне восьмиугольника.

Решать задачу будем путем размещением последовательно вершин и проводить расчет количества этих размещений.

1. размещаем первую вершину $A$.
Первую вершину можно разместить $n_A = 8$ способами (во всех вершинах $1,2,3,4,5,6,7,8$).
Для дальнейшего анализа рассмотрим случай - вершина $A$ находится в вершине с номером $1$

2. размещаем вторую вершину $B$.
Осталось 7 свободных мест.
Учтем условие задачи: вершины треугольника не должны лежать на одной стороне восьмиугольника, т.е. вершины справа и слева от вершины $A$, т.е. вершины с номерами $2$ и $8$ - всегда свободны. Назовем их "пустыми вершинами при вершине $A$". Осталось свободных 5 вершин с номерами $3,4,5,6,7$.
Вторую вершину можно разместить $n_B = 5$ способами. 

3. размещаем третью вершину $C$.

Рассмотрим размещение вершины $B$ подробнее и определим соответствующее количество способов размещения точки $C$:
Пусть вершина $B$ находится в точке с номером $3,7$. Эти вершины характерны тем, что с одной стороны у них есть "пустая вершина при вершине $A$", а с другой стороны "пустая вершина при вершине $B$". В этом случае третью вершину $C$ можно разместить в 5-2 =3 вершинах.

Для этих двух точек применим правило произведения:

Правило произведения: Если объект $A$ можно выбрать из множества объектов $m$ способами и после каждого такого выбора объект $B$ можно выбрать $n$ способами, то пара объектов (A,B) в указанном порядке может быть выбрана $m*n$ способами.

В первом случае у нас есть 2 вершины, в которых размещаем $B$, т.е. m = 2 и 3 вершины, где размещаем $C$ n=3. В этом случае количество размещений на восьмиугольнике пар вершин $BC$ будет равна $n_{BC1} = m*n = 2*3 =6$.

Пусть вершина $B$ находится в точке с номером $4,5,6$. Эти вершины с обеих сторон должны иметь "пустые вершины при вершине $B$". В этом случае третью вершину можно разместить в 5-3 =2 вершинах, т.е $n_{C2}=2$
Для этих двух точек применим правило произведения, получаем у нас есть 3 вершины, в которых размещаем $B$, т.е. m = 3 и 2 вершины, где размещаем $C$ n=2. В этом случае количество размещений на восьмиугольнике пар вершин $BC$ будет равна $n_{BC2} = m*n = 3*2 =6$.

Проверяем: количество размещений вершины $B$ в двух рассматриваемых случаях $n_B = 2 + 3 = 5$, что соответствует п.2 

Для двух этих случаев $n_{BC1} = 6$, $n_{BC2} = 6$ применим правило суммы:

Правило суммы: если объект $А$ можно выбрать из множества объектов $m$ способами, а другой объект $В$ может быть выбран $n$ способами, то выбрать либо объект $А$ либо $В$ можно $m+n$ способами.

Получаем $n_{BC} = n_{BC1}+ n_{BC2} =  6 + 6 = 12$

Получили, что при фиксированном размещении вершины $A$ количество размещений вершин $n_{BC} = 12 = m$. Вершину $A$ мы можем разместить на восьмиугольнике $n_A = n = 8$

Для этих двух выборок применим правило произведения и получим количество искомых треугольников:

Ответ: существует $n=96$ треугольников, вершины которых являются вершинами данного выпуклого 8-угольника, а стороны не совпадают со сторонами этого многоугольника.