Para saber si una falta marcar al menos una casilla, deberás hacer con un botón. Ese botón se encargará de validar si marcaste solamente una casilla.
Si estás en un userform, agrega un botón para validar las casillas
Private Sub CommandButton1_Click()
'Por.Dante Amor
'
'Valida casillas
'
If CheckBox1.Value = False And CheckBox2.Value = False And _
CheckBox3.Value = False And CheckBox4.Value = False And _
CheckBox5.Value = False Then
MsgBox "Tienes que marcar al menos una casilla"
Exit Sub
End If
n = 0
If CheckBox1.Value = True Then n = n + 1
If CheckBox2.Value = True Then n = n + 1
If CheckBox3.Value = True Then n = n + 1
If CheckBox4.Value = True Then n = n + 1
If CheckBox5.Value = True Then n = n + 1
'
If n > 1 Then
MsgBox "Solamente puedes marcar una casilla"
Exit Sub
End If
'
'
'En esta parte puedes poner el código cuando solamente marcó una casilla
'
'
End Sub
Otra opción es manejar Optionbutton en lugar de checkbox, con el optionbutton solamente te permite seleccionar una opción.
Podría ser así:

Y el código en el botón quedaría así:
Private Sub CommandButton1_Click()
'Por.Dante Amor
'
'Valida opciones
'
If OptionButton1.Value = False And OptionButton2.Value = False And _
OptionButton3.Value = False And OptionButton4.Value = False And _
OptionButton5.Value = False Then
MsgBox "Tienes que marcar al menos una opción"
Exit Sub
End If
'
'
'En esta parte puedes poner el código cuando solamente marcó una casilla
'
'
End Sub
.
'S aludos. Dante Amor. Recuerda valorar la respuesta. G racias
.
Avísame cualquier duda
.