Meiner Meinung nach geht das nicht.
Man müsste auf dem Boolean-Feld eine Groovy-Regel für ein berechnetes Attribut hinterlegen, dass durch alle Zeilen iteriert, um festzustellen, ob woanders eine Checkbox gesetzt ist. Ob das klappt müsste man ausprobieren, auf jeden Fall hätte das Vorgehen eine fragliche Performance.
Natürlich kann man das ganze leicht in eine UpdateRule verlagern und dort einfach prüfen, ob mehr als eine Checkbox gesetzt ist. Ist halt nicht ganz so komfortabel aber löst zumindest das Problem.